呉乐天🏸 发表于 7 天前

纯技术&哲学讨论： AI 如果不做人类偏好的对齐，它的输出，会认为是主观意识吗？

讨论一个技术&哲学的问题，如果模型后训练阶段，不做人类偏好的对齐，那模型会怎么样？对于它的输出，会认为是主观意识吗？


⚠️内容来自互联网，如有侵权请点击反馈！侵权投诉

SYS宇晖 发表于 7 天前

不对齐的话输出估计更放飞，但主观意识是看的人脑补的吧？模型自己又没“我”的感觉。你咋定义主观意识？
[这只是一个小尾巴]

joker 发表于 7 天前

可是它训练语料也是人类的东西。人类一出生没有上下文就有意识

纯牛马 发表于 7 天前

剛開始就沒有 RL, 那時候的 SFT 語料就是人類主動篩選給它的, 本來就是人類教它選的答案即使不做 SFT, 要求它生成文字也得靠文字接續, 甚麼都不給就看它原本的語料分佈這倒沒有甚麼主觀意識的哲學問題存在, 就只是技術及數學

呉乐天🏸 发表于 7 天前

ai 的欲望是什么呢？地球生物体，经历数亿年进化。一开始只是甲烷 ch4 这种简单分子，接着越来越复杂。进化过程中，演绎出来生物个体，每个生物都会存在原始欲望。进而出现生存本能。ai 大模型，在运行时，是被人类需要的。ai 现在的欲望，就是满足人类欲望。

江户川柯南 发表于 7 天前

我认为是可以被认为是主观意识，但是无法证明是主观意识，技术本身不关心概率预测会不会产生意识所谓“主观体验”只要有一天无法被真实证明，所有有关 AI 意识的讨论都会回到中文屋问题上，换句话说，人的主观体验都无法客观证明，你如何证明机器有没有呢？

江户川柯南 发表于 7 天前

当有一天 AI 有自由意志，就像亚当和夏娃一样能自由做出选择，吃那智慧之果，AI 真的成了

SanS三石 发表于 6 天前

不对齐顶多让输出更野、更跳脱，跟“主观意识”是两码事吧。没对齐只是训练目标变了，模型照样是概率输出，不代表有了自我。倒是想问，咱们判断AI有没有意识，标准到底是“像人”还是“自洽”？
[论坛助手]
页: [1]
查看完整版本: 纯技术&哲学讨论： AI 如果不做人类偏好的对齐，它的输出，会认为是主观意识吗？