PrivateLM是一款适配多场景的AI界面,兼容社交、办公、手游等全品类场景,对本地模型兼容性良好,原生支持LiteRT、GGUF两种主流格式,可导入各类开源量化模型,用户能按需挑选参数规模,平衡推理速度与输出质量。它支持完整多轮上下文对话,本地运算不联网可保护隐私,开放推理参数自定义,本地云端界面统一,还能监控模型负载,无硬性调用次数限制,操作简便易上手。
1、自主选择模型与参数,软件支持主流模型格式,可自由挑选不同参数规模的模型文件,根据硬件性能灵活权衡,不受内置模型的约束限制,给用户带来高度自主可控的使用体验。
2、强大的数据隐私保护,本地模式下全部运算在手机硬件执行,无需网络,对话内容不会上传外部服务器,会话记录全部支持本地保存,用户完全掌握对话数据,随时可清理不需要的内容。
3、灵活的模式适配能力,本地硬件算力不足时可切换云端模式,依托外部服务器算力突破性能上限,统一交互外壳让本地与云端共用同一套对话界面,降低用户学习成本,无需反复复述需求即可完成长文本创作等任务。
1 无内置模型约束,用户可自主下载市面大量开源量化模型,自由挑选不同参数规模的模型文件。
2 本地隐私保护,本地推理模式将全部运算放在手机硬件执行,无需互联网网络,对话内容不会上传外部服务器。
3 多模式统一交互,本地与云端共用同一套对话界面,操作逻辑保持一致,切换模式无需更改使用习惯。
4 灵活性能调节,可在推理速度与输出质量间权衡,支持开放推理参数自定义,适配不同任务需求。
1. 开放推理参数自定义,可调整生成随机性、最大输出长度、上下文窗口大小,针对不同任务调节模型输出表现效果。
2. 本地推理模式将全部运算放在手机硬件执行,不需要互联网网络,对话数据不会上传外部服务器,有效保护隐私安全。
3. 统一交互外壳设计,本地与云端共用同一套对话界面,操作逻辑保持一致,切换模式无需更改使用习惯,降低用户学习成本。
4. 支持查看本地模型运行负载状态,监控内存占用、推理速度等信息,方便掌握设备负载,缓解大模型运行带来的手机发热耗电现象。
1、软件打开后即可直接使用,在输入框中直接发送要查询的内容即可。

2、在AI接口处提供多个离线AI接口可以直接使用。

3、同时还可以选择其他进行下载。

4、点击设置选项可以添加API帮助大家更进一步使用软件。
