赛马

siguang1125

chenvenvei 发表于 2025-7-8 15:34
有很多预言末世危机的，就是说机器人为了净化地球，把所有人的思想都统一，让人不寒而栗！ ...

不排除这种可能。机器有了思维，又把这种思维强加于人类，太可怕了。

chenvenvei

siguang1125 发表于 2025-7-9 13:50
不排除这种可能。机器有了思维，又把这种思维强加于人类，太可怕了。

嗯，总感觉人工智能是逻辑优先，也没有类似于痛苦，悲伤这种感觉，会做出一些反常理的事情，可怕！

siguang1125

chenvenvei 发表于 2025-7-9 15:44
嗯，总感觉人工智能是逻辑优先，也没有类似于痛苦，悲伤这种感觉，会做出一些反常理的事情，可怕！ ...

人工智能毕竟只是机器，没有人类的情感和思维，比如“人道”二字它们就很难理解，弄不好会做出反人道的事来。

chenvenvei

siguang1125 发表于 2025-7-10 13:20
人工智能毕竟只是机器，没有人类的情感和思维，比如“人道”二字它们就很难理解，弄不好会做出反人道的事 ...

确实，只会计算利益最大化，这种冷冰冰的计算总感觉会为了取得最大的利益，做出可怕的事情来！

siguang1125

chenvenvei 发表于 2025-7-10 15:11
确实，只会计算利益最大化，这种冷冰冰的计算总感觉会为了取得最大的利益，做出可怕的事情来！ ...

机器人不会生病，不会疲劳，不会感情用事，不犯低级错误，简直毫无弱点。如果它们失控，会成为人类的大敌。

chenvenvei

siguang1125 发表于 2025-7-11 13:45
机器人不会生病，不会疲劳，不会感情用事，不犯低级错误，简直毫无弱点。如果它们失控，会成为人类的大敌 ...

他未必是失控，而是忠实于执行意图和命令，但是不会考虑要付出什么样的牺牲

siguang1125

chenvenvei 发表于 2025-7-11 15:35
他未必是失控，而是忠实于执行意图和命令，但是不会考虑要付出什么样的牺牲 ...

明知有后患，但人类还是离不开人工智能。但愿科幻电影中机器人造反的场景不要成为现实，哈哈。

chenvenvei

siguang1125 发表于 2025-7-12 13:22
明知有后患，但人类还是离不开人工智能。但愿科幻电影中机器人造反的场景不要成为现实，哈哈。 ...

机器人三定律，不知道如何写入电脑程序，如果可以忠实执行，那确实可以预防一些风险

siguang1125

chenvenvei 发表于 2025-7-12 17:39
机器人三定律，不知道如何写入电脑程序，如果可以忠实执行，那确实可以预防一些风险 ...

机器人三定律固然严密，但机器人进化到相当程度时，恐怕可以推翻这些定律，不能不防。

chenvenvei

siguang1125 发表于 2025-7-13 13:27
机器人三定律固然严密，但机器人进化到相当程度时，恐怕可以推翻这些定律，不能不防。 ...

就像电脑程序都有漏洞，人工智能的进化也是不可测的