牛马论坛查看原帖 →

到底有没有能防止 AI 失控的技术方案

🐈nico 12 阅读 1 回复
目前,有一些人认为 AI 可能失控,有可能发展出自由意志,进而可能毁灭人类

那到底有没有技术方案,来将 AI 的能力固定在人类可控的范围内?


首先,可能需要先准确的定义“失控” 或者 “可控”

一般情况下,咱们习惯先定义清楚需求,然后提出对应的解决方案


然后,还得弄清楚 AI “涌现”出来的能力,到底是怎么“涌现”的

完全弄清其原理后,才能针对性的,进行控制
⚠️内容来自互联网,如有侵权请点击反馈!侵权投诉
定义“可控”之前得先承认一件事:现在的模型压根没有自主意图,谈失控有点像在防一个还没出生的敌人。真正要解决的是对齐问题里那些具体的坑,比如奖励黑客、分布外泛化,这些才是眼下的硬骨头。
[这只是一个小尾巴]

阅读全文与全部回复 →