文末评论区大讨论！

问大家一个问题：人工智能有可能攻击人类吗？

电影《终结者》便上演了这样的情节：美国研究的智能防御导弹系统“天网”，突然诞生了自我意识，并且认定人类是它最大的威胁，从此走上了毁灭人类的道路。

以前咱把这些就当电影看看，但随着GPT-4等巨型人工智能的推出，AI 的强大逐渐超过了人们的想象，甚至开始让人害怕。

也许你还没有什么感觉，但很多AI领域的大佬已经坐不住了。

最近，未来生命研究所公布了一封公开信。

由马斯克牵头，呼吁所有 AI 实验室立即暂停训练比 GPT-4 更强大的 AI 系统至少 6 个月，也就是暂停对 GPT-5 的开发。

超过1000 人签署了这封联名信，包括很多科技界大佬：图灵奖得主 Yoshua Bengio、Stability AI 首席执行官 Emad Mostaque、苹果联合创始人 Steve Wozniak等。

信中表示，并不是要永远暂停 AI 的开发，而是要利用这次暂停，制定一套用于高级 AI 设计和开发的共享安全协议。

为啥呢？因为他们觉得人工智能的发展有可能对人类社会带来巨大风险。

其实，这些大佬的话并非耸人听闻。

众所周知，我们发明人工智能的初衷是为了造福人类，但技术并不是完全中立的，因为使用技术的人有善恶之分。

如果法律进步的速度跟不上技术爆炸的速度，人工智能变“坏”的可能性就会很大。

比如最近有个视频男网红利用 AI 换脸技术，把电视剧里男演员的脸替换成自己的。

于是就出现了这个男主播和其他女明星“亲热”的画面。

这就很搞笑了，这跟隔空骚扰有什么区别？

还有一个事儿，地铁上一个普通姑娘的“裸照”被人疯传，但其实这个女孩穿着正常，只是被人用 AI 技术恶意“脱衣”。

更严重的是，随着AI的不断升级，也有可能对人类的生命安全造成威胁，这一点在很多影视剧中也有体现。

美剧《疑犯追踪》里面的人工智能，就像躲在网络上的幽灵来无影去无踪。有人会说，人工智能如果真的出了问题，把电源拔掉就行了。但是对于和互联网结合的人工智能，我们到哪里去“拔掉电源”？

影片《机械姬》最后留了个悬念，女机器人把她的创造者囚禁起来，自己出去了。我们不知道这个反社会人格的女机器人出去后会在社会上做什么，但对人类肯定是有极大威胁的！

霍金去世之前，曾频频发出对人工智能的警告。他说：“人工智能的崛起，要么是人类历史上最好的事，要么是人类文明的终结。”

周鸿祎也坦言，最近人工智能的指数级跃变确实让人有点措手不及。人类如何应对AI带来的未来安全挑战，谁也没法给出确定答案。

现在来看，难怪这么多大佬要叫停 GPT-5 的开发。

对此，各位朋友们，你们怎么看呢？

欢迎在评论区留言

哲学日签 · 免费领取

关注以上 三个账号，免费领取哲学日历↓

上图扫码 - 添加助手 - 发送关注截图 - 领取