非专业技术出身,涉及技术的描述若有误,欢迎指正。

一、

最近OpenAI旗下的ChatGPT大火出圈,我也第一时间在淘宝买了个账号用起来。

我本职是搜索产品,对技术有些了解,一直觉得通用人工智能(AGI)是非常遥远的事情,目前的AI范式(Transformer大模型)也不太可能实现。实际上,在ChatGPT之前,所有的通用型语音助手或聊天机器人给我的印象是,当玩具都觉得没意思。业内也偶尔自嘲:「有多少人工,就有多少智能」——AI需要大量的标注数据

但ChatGPT非常惊艳,它能进行连续的非常流畅的对话,而且是全知的存在,在每个领域都能做到60分。虽不极致,但可用。很多人已经把它当辅助工具在使用,各种文字类工作都能指点一二,比如写剧本、写检讨书、写代码等等。

二、

当初觉得,目前的AI范式不可能实现AGI,主要是它跟人理解世界的方式差异很大

AI模型的训练都是通过投喂大量的数据实现的,这个信息量远远超过一个人从小到大接受到的信息量,但ChatGPT之前的AI还是显的很笨拙,原因何在呢?

因为人有理解能力,能够从各种现象总结规律,再基于规律去分析、推理、解决问题。当老师通过一个案例介绍SWOT分析框架之后,学生可以很快的将该框架应用到其它案例中去,这便是理解能力。而且,从现象到规律,再利用规律分析解决问题,都具有可解释性。

而现在的AI范式,本质上仍然是在做模拟,通过大规模数据训练之后,模型可以回答问题。但模型并不真的理解问题,对答案和问题之间的逻辑关联性,也无法给出解释。我在工作中就非常头痛算法的黑盒效应,当你发现模型对某个问题的回答是错误的时候,很难确定模型为什么弄错了。

三、

但现在,ChatGPT又表现出了超预期的智能,该如何解释呢?

首先,我想到的是大力出奇迹,ChatGPT在GPT-3的基础上研发,GPT-3的模型参数达到1750亿(常用来类比大脑突触,人脑有100万亿突触),预训练数据45TB,以及超强的算力配合,训练成本达到1200万美元1。量变是否引起了质变?

通过资料了解到另一个关键技术升级,ChatGPT加入了基于人类的反馈系统(RLHF)2。先将大量无标注数据喂给模型,学习语言特征,再使用人类标注数据进行优化。所需的标注数据规模是极小的,便能优化到现在的效果。——少量人工,就实现高级别智能。

继续回来从人脑的角度来理解这些

人的学习过程,或许没有像ChatGPT使用那么多的数据,但其实也不少。除了书面知识外,生活中的所见、所闻、所感,都是信息的输入。当我们还不识字时,就已经在反反复复的听、说、看到一些事物、概念,加强印象。

而RLHF系统,则完美贴合人类的教学活动。小孩子第一次看到猫咪不知道是什么,会问妈妈,妈妈会解释,第二次看到可能还不知道,再问妈妈,妈妈再解释,第三次多半就知道了。这便是将特征形成知识,存于大脑了。ChatGPT也是如此,只不过,他不是碰到问题就问,而是先从看大量的文字资料,再通过与人类对话反馈优化已经学到的知识。

我们来想象两件事情

  1. 如果把ChatGPT实体化,做成机器人,有五感输入,也能自由行动,让它与人和自然每天互动学习,接受反馈(包括被打了一下会痛、攻击人类会被惩罚这样的反馈),会不会成为超级人工智能?
  2. 如果让人按ChatGPT的模式去学习:把人关在一间拥有海量数据资料的房间里,与世隔绝,专注阅读几十年后,再与人交流,接受互动反馈。不考虑心理问题,人脑能比ChatGPT做的更好么?

我没有答案,只是觉得类比有趣。

如果ChatGPT生成的答案非常准确,在不确定的时候也能告诉你他只是猜测,以及从「文本生成」的角度(不是推理的角度)给出逻辑解释,是不是可以认为,ChatGPT实现了理解呢?人类的可解释性,虽然在脑海中有推理过程,但最终呈现出来的仍然是语言。不是么?

四、

ChatGPT的出现,让我觉得AI(或至少AIGC)在可预见的未来,在知识技能层面可以实现高级别的智能。会成为很多脑力工作者强大的辅助工具。

只要AI没有意识,便永远只是人类的工具。但高级别的知识智能,会不会再次量变到质变,突然产生意识呢,像很多电影拍的那样。

🔔 Email RSS订阅本博客

已有 8 条评论

  1. 感觉它的回答有时有点无厘头~当个搞笑ai机器人挺好~

    1. 事实类的,验证是很痛苦,现在还不甚用。
      观点/创意类的,作为一种参考,尚可一用。这一类,不按套路出牌,有时候更有价值,虽然有时也会无厘头。

  2. 问题在于,如果他产生了意识,有什么办法可以判定吗?

    1. chat chat

      想多了。本质就是统计机器学习,根据上下文概率生成回复。

      1. 哈哈,我也知道。只是人脑是如何工作的,也依然很多未解之迷,和概率统计模型未必没有共性。

    2. 不知道。

      可以比较确定的是,意识与智力(理解能力)是相关的,人刚出生也无所谓意识,是在与世界互动的过程中,慢慢形成了「我」的主体,有了自主意识。

      所以我说,当机器人智力达到很高级别,并且能与世界大量互动,会不会突然产生意识?

  3. 可能它能产生周边一些风口,例如简单文案,代码编写,聊天等~但感觉又要有一大群人失业了~

    1. 过程很痛苦,但终局应该是:工作不是必须的,只是为了娱乐、为了活动筋骨。

添加新评论