nesa

收录理由

当团队需要在敏感数据上运行大语言模型或图像模型时，常常被迫在速度与隐私之间做取舍。Nesa 用自研的等变加密方案绕开了这道选择题：推理延迟几乎没有变化，常见的激活函数和归一化层都能覆盖，托管方从头到尾看不到输入数据，连查询内容也无从知晓。它还提供了兼容 ChatGPT 的接口，开发者只需改一行代码就能切换，并且支持 Llama、Mistral、Stable Diffusion 等众多模型。对处理受监管或机密数据的场景来说，这种近乎零额外开销的端到端加密，在当下的 AI API 市场里确实不多见。