1# 🐈nico 2026-11-17 17:08目前,有一些人认为 AI 可能失控,有可能发展出自由意志,进而可能毁灭人类 那到底有没有技术方案,来将 AI 的能力固定在人类可控的范围内? 首先,可能需要先准确的定义“失控” 或者 “可控” 一般情况下,咱们习惯先定义清楚需求,然后提出对应的解决方案 然后,还得弄清楚 AI “涌现”出来的能力,到底是怎么“涌现”的 完全弄清其原理后,才能针对性的,进行控制 ⚠️内容来自互联网,如有侵权请点击反馈!侵权投诉
2# SYS宇晖 2026-11-17 17:08定义“可控”之前得先承认一件事:现在的模型压根没有自主意图,谈失控有点像在防一个还没出生的敌人。真正要解决的是对齐问题里那些具体的坑,比如奖励黑客、分布外泛化,这些才是眼下的硬骨头。 [这只是一个小尾巴]