牛马论坛查看原帖 →

你们会刻意避免让 AI 接触到自己的任何敏感信息吗?

呉乐天🏸 8 阅读 8 回复
用中转站还暴露隐私信息就是你的问题了
> 各种账号 id ,vps 信息,各种 key ,个人真实姓名 公司 身份证 银行卡 地址 甚至各种密码这些为什么要告诉 AI ,完全没必要啊。另外,“真实姓名 公司 身份证 银行卡号 地址”这几项让 AI 知道没啥问题,毕竟这几项的泄露途径太多了,筛子多一个孔少一个孔没区别。
> 各种账号 id ,vps 信息,各种 key ,个人真实姓名 公司 身份证 银行卡 地址 甚至各种密码这些为什么要告诉 AI ,完全没必要啊。另外,“真实姓名 公司 身份证 银行卡号 地址”这几项让 AI 知道没啥问题,毕竟这几项的泄露途径太多了,筛子多一个孔少一个孔没区别。
似乎很难。随着 AI 深入到方方面面,各种账号 id ,vps 信息,各种 key ,个人真实姓名 公司 身份证 银行卡 地址 甚至各种密码,似乎都难以避免的被模型一点点得知了。
这些数据可能都一直存在某一个地方,随时可能被读取,而不像密码一样库里存的是不可复原 hash 。
也许大厂训练下一代模型会先过滤下敏感数据。不太会有,比如,GPT7 看到你名字和地址直接就想起了你的身份证号这种事。
但是中转站这种真得小心,用的时候如果不注意一点,那分分钟泄露大量隐私。且完全不能信任他们会不记录,也不能保证不会泄露。


⚠️内容来自互联网,如有侵权请点击反馈!侵权投诉
中转站确实最危险,我一般只用官方API,key单独建限额用完就轮换。不过聊天里随口带出的公司名、地名这种算不算敏感信息,边界挺模糊的,你们怎么把握?
[这只是一个小尾巴]
不管用什么 API ,上网之前脱敏是必然的
简单点就加载变量不保险就自己写几个脚本透传调用再不行就等那一票 agent 强匿名工具成熟
至少编码任务上可以引导 AI 不要读取某些文件,密钥等敏感数据放环境变量文件,而不是通过聊天窗口发送。至于其他任务,需要上传图片、PDF 等文件,就最好脱敏了,图片打码还算好办,有的就不好办了,很在意隐私就不用 AI 吧。
重要的数字资产还是要脱敏的 或者干脆就不要放在用 agent 的计算机 A\反正是会看所有人的 prompt 的 其他家估计也一样

阅读全文与全部回复 →