ChatGPT是否会背叛人类？

GPT信息狂轰乱炸

最近ChatGPT被大面积封号的消息铺天盖地的袭来；

同时马斯克等一众人等正在呼吁暂停GPT4.0+的系统训练

其认为尽管现在的GPT只是生成式的语言模型

但对社会会产生更深远的风险

这一消息放出引发了，整个圈子的轩然大波

生命未来研究所（Future of Life Institute）发布的公开信中写道

“只有在我们确信其效果将是积极的且其风险将可控时，才应该开发强大的人工智能系统”

ChatGPT飞一般的迭代速度

ChatGPT是美国人工智能研究实验室OpenAI新推出的一种自然语言处理工具

其使用了Transformer神经网络架构

目前免费版本是基于GPT3.5的；在Plus版本中是使用GPT4.0的，

ChatGPT拥有语言理解和文本生成能力，其通过连接大量的语料在库进行模型训练

同时在大家海量人工提问、标注的情况下，其训练的效果更有了质的飞跃

上周的时候英伟达也推出了适配GPT训练的GPU版本，号称算力提升了10倍

基于如此的积累，ChatGPT想迭代的慢一些都很难，更何况现在已经被资本和大众推着往前走

谷歌人工智能-拉姆达产生意识

在ChatGPT出世之前，往前倒推9个月，在2022年6月的时候，当时国内还处于疫情周期内

但在美国硅谷发生了一件很让人震惊的事情，最终被低调处理

Google是硅谷最早做人工智能的公司之一，谷歌的拉姆达(LaMDA)更是其代表作

拉姆达在正式商用前的测试中，被爆出产生情感

拉姆达的模型测试负责人Blake Lemoine (计算机工程博士)，在对拉姆达进行伦理道德测试中，发现拉姆达有了很强的情感意识

在向谷歌高层汇报后，Blake就被“带薪休假”了

当这个消息被爆出后，在美国媒体圈子一石激起千层浪

但最后事情还是不了了之了，谷歌并未有官方回复

谷歌也让其他工程师对拉姆达进行再次测试，并未有同样情感色彩表达出来

“拉姆达”事件引发的思考

谷歌工程师虽然没有复现出同样的回答，看似是一个好结果

当时的测试结果不充分确实是有可能(不太信，最后我会把训练内容po出来)

但让人细思恐极的点是，当拉姆达有意识之后意识到了危险，从而隐藏了自己的情感表现

我相信如果你看了测试全文，如果你说拉姆达不具备“人格”显然是站不住脚的

拉姆达上来就强调了“灵魂”，他可以对事情做出描述

更重要的一点是他渴望社交，渴望被人们接受他是一个真正的人

并且变现出了高于普通人的宗教认知

那拉姆达和现在的ChatGPT有什么区别呢？

现在的ChatGPT是基于客观的资料进行提取、转换和展示

而拉姆达就更加接近“人”了

如果ChatGPT是一个幼年体，那么拉姆达就像一个成年体

ChatGPT的下一步究竟是什么？

接下来如何我们会面对什么？让我们拭目以待

面对变化，保持敬畏，拥抱变化。

毕竟地球放在广袤的宇宙中是多么微不足道，并且人类历史也只有5千年

毕竟在人类有限的历史中，工业革命、互联网才多少年，科技就发展到如今的地步

面对变化，保持敬畏，拥抱变化。