ChatGPT：AI发展到了什么阶段？
非专业技术出身，涉及技术的描述若有误，欢迎指正。
一、
最近OpenAI旗下的ChatGPT大火出圈，我也第一时间在淘宝买了个账号用起来。
我本职是搜索产品，对技术有些了解，一直觉得通用人工智能（AGI）是非常遥远的事情，目前的AI范式（Transformer大模型）也不太可能实现。实际上，在ChatGPT之前，所有的通用型语音助手或聊天机器人给我的印象是，当玩具都觉得没意思。业内也偶尔自嘲：「有多少人工，就有多少智能」——AI需要大量的标注数据
但ChatGPT非常惊艳，它能进行连续的非常流畅的对话，而且是全知的存在，在每个领域都能做到60分。虽不极致，但可用。很多人已经把它当辅助工具在使用，各种文字类工作都能指点一二，比如写剧本、写检讨书、写代码等等。
二、
当初觉得，目前的AI范式不可能实现AGI，主要是它跟人理解世界的方式差异很大。
AI模型的训练都是通过投喂大量的数据实现的，这个信息量远远超过一个人从小到大接受到的信息量，但ChatGPT之前的AI还是显的很笨拙，原因何在呢？
因为人有理解能力，能够从各种现象总结规律，再基于规律去分析、推理、解决问题。当老师通过一个案例介绍SWOT分析框架之后，学生可以很快的将该框架应用到其它案例中去，这便是理解能力。而且，从现象到规律，再利用规律分析解决问题，都具有可解释性。
而现在的AI范式，本质上仍然是在做模拟，通过大规模数据训练之后，模型可以回答问题。但模型并不真的理解问题，对答案和问题之间的逻辑关联性，也无法给出解释。我在工作中就非常头痛算法的黑盒效应，当你发现模型对某个问题的回答是错误的时候，很难确定模型为什么弄错了。
三、
但现在，ChatGPT又表现出了超预期的智能，该如何解释呢？
首先，我想到的是大力出奇迹，ChatGPT在GPT-3的基础上研发，GPT-3的模型参数达到1750亿（常用来类比大脑突触，人脑有100万亿突触），预训练数据45TB，以及超强的算力配合，训练成本达到1200万美元1。量变是否引起了质变？
通过资料了解到另一个关键技术升级，ChatGPT加入了基于人类的反馈系统（RLHF）2。先将大量无标注数据喂给模型，学习语言特征，再使用人类标注数据进行优化。所需的标注数据规模是极小的，便能优化到现在的效果。——少量人工，就实现高级别智能。
继续回来从人脑的角度来理解这些：
人的学习过程，或许没有像ChatGPT使用那么多的数据，但其实也不少。除了书面知识外，生活中的所见、所闻、所感，都是信息的输入。当我们还不识字时，就已经在反反复复的听、说、看到一些事物、概念，加强印象。
而RLHF系统，则完美贴合人类的教学活动。小孩子第一次看到猫咪不知道是什么，会问妈妈，妈妈会解释，第二次看到可能还不知道，再问妈妈，妈妈再解释，第三次多半就知道了。这便是将特征形成知识，存于大脑了。ChatGPT也是如此，只不过，他不是碰到问题就问，而是先从看大量的文字资料，再通过与人类对话反馈优化已经学到的知识。
我们来想象两件事情：
- 如果把ChatGPT实体化，做成机器人，有五感输入，也能自由行动，让它与人和自然每天互动学习，接受反馈（包括被打了一下会痛、攻击人类会被惩罚这样的反馈），会不会成为超级人工智能？
- 如果让人按ChatGPT的模式去学习：把人关在一间拥有海量数据资料的房间里，与世隔绝，专注阅读几十年后，再与人交流，接受互动反馈。不考虑心理问题，人脑能比ChatGPT做的更好么？
我没有答案，只是觉得类比有趣。
如果ChatGPT生成的答案非常准确，在不确定的时候也能告诉你他只是猜测，以及从「文本生成」的角度（不是推理的角度）给出逻辑解释，是不是可以认为，ChatGPT实现了理解呢？人类的可解释性，虽然在脑海中有推理过程，但最终呈现出来的仍然是语言。不是么？
四、
ChatGPT的出现，让我觉得AI（或至少AIGC）在可预见的未来，在知识技能层面可以实现高级别的智能。会成为很多脑力工作者强大的辅助工具。
只要AI没有意识，便永远只是人类的工具。但高级别的知识智能，会不会再次量变到质变，突然产生意识呢，像很多电影拍的那样。
感觉它的回答有时有点无厘头～当个搞笑ai机器人挺好～
事实类的，验证是很痛苦，现在还不甚用。
观点/创意类的，作为一种参考，尚可一用。这一类，不按套路出牌，有时候更有价值，虽然有时也会无厘头。
问题在于，如果他产生了意识，有什么办法可以判定吗？
想多了。本质就是统计机器学习，根据上下文概率生成回复。
哈哈，我也知道。只是人脑是如何工作的，也依然很多未解之迷，和概率统计模型未必没有共性。
不知道。
可以比较确定的是，意识与智力（理解能力）是相关的，人刚出生也无所谓意识，是在与世界互动的过程中，慢慢形成了「我」的主体，有了自主意识。
所以我说，当机器人智力达到很高级别，并且能与世界大量互动，会不会突然产生意识？
可能它能产生周边一些风口，例如简单文案，代码编写，聊天等~但感觉又要有一大群人失业了~
过程很痛苦，但终局应该是：工作不是必须的，只是为了娱乐、为了活动筋骨。