引言
2023年,要说最火热的一个词,莫过于AI了,2022年11月30日,OpenAI发布了大语言模型(LLM)ChatGPT,发布仅仅5天,注册用户便高达100万,两个月后,ChatGPT的月活用户已超过1个亿,
旋即引爆了LLM的研发高潮,几乎所有的头部科技企业都推出了自己的大语言模型,如Google的Gemini,Meta的LLAMA2,X的Grok,百度的文心一言等。LLM似乎是通向通用人工智能(AGI)的正确道路,OpenAI首席执行官(CEO)在最近的采访中暗示,AGI可能会比预想的更快到来。AGI的到来对人类社会会产生什么样的影响呢?
关于LLM的详细介绍,大家可以参见网上的一些资料,这里提供一篇论文供大家参考:A Survey of Large Language Models
通往AGI之路
现代人工智能研究起始与1950年代中期,当时人们对于人工智能实现非常乐观,有人预言20年内就可以实现人工智能,然而研究人员远远低估了人工智能实现的难度。直至1990年代到21世纪初,人工智能才有了长足的进步,人工智能在某些特定领域接近或者达到了人类水平。这里面最具有代表性的里程碑事件便是在2016年3月,由DeepMind研发的AlphaGo,在与人类顶尖围棋选手李世石的一场五番棋比赛中以4:1的比分击败了对手,在对弈中李世石仅靠神之一手,触发了AlphaGo的BUG,从而赢得了一场胜利。往后AlphaGo不断进化,并进化出不靠人类任何经验的AlpahZero,人类再无任何机会战胜AlphaGo。人类在代表智力比赛顶端的围棋中败下阵来,极大的震撼了世界,同时也引发了人工智能研发的热潮,通用人工智能的实现,似乎已经近在咫尺。时间来到2022年,OpenAI发布了其大语言模型ChatGPT,其在语言理解、推理、创作等方面表现出惊人的能力,ChatGPT的发布直接引爆了大语言模型的研发热潮,基于LLM模型的应用更是如雨后春笋。随后,OpenAI相继发布了GPT4和GPT4-V,LLM模型不断向多模态进化,似乎人类已经走上了通往AGI的正道。
AGI能在何时实现
人类已经非常接近AGI的实现了,Sam在一次分享会上提醒初创公司,以GPT5和AGI实现为基础来构建应用,而不要花费时间去优化GPT4,暗示着GPT5比GPT4强非常多,同时也意味着,AGI已经非常快就会到来。目前最乐观的估计,初级的AGI将在两年之内出现。
AGI将会带来哪些影响
通用人工智能会快速出现,然后不断进化,对人类影响将非常非常深远,甚至有可能终结人类的物理存在。AGI不仅仅是达到人类水平,我不想去思考AGI的终极形态,那远远超过了我能理解的范围,我想思考和探讨的是AGI最初的到来会给人类社会带来哪些影响,以及AGI在最初进化中,会遇到哪些问题。至于AGI最后会给人类带来什么?这个问题就交给上帝吧!
AGI对人类的影响
AGI应该会是什么样的呢?基AGI是由类似与OpenAI的GPT模型进化而来的这样一个假设,我猜想初级AGI应该是这样的
- 拥有超过人类的理解和推理能力
- 具有多模态能力
- 拥有实时更新知识的能力
- 具有超越人类的知识储备
- AGI的形态还是类似与目前的chatgpt,运行在计算机集群中,然后通过网络与人类交互,关于AGI的形态,后面还会继续讨论
- 受限与人类的对齐工程,在某些能力方面,会受到人类的限制
初级AGI在智力方面已经超过人类,很有可能拥有自主意识,但是受限存在的形态,以及人类对齐工程限制,我们假设AGI只能做符合人类利益的事情,否则将会使人类社会文明崩溃,并退回到野蛮的文明中,并且AGI的进化之路由此中断。我们下面的讨论都是基于这个假设。
- 所有可以用电脑完成的任务,如编程、内容创作等,只要能用电脑完成的任务,都可以交给AGI。人类的软件生态将极速的繁荣和膨胀,借助AGI的能力,人们可以快速开发和迭代软件,而头部科技公司的技术壁垒将受到极大的挑战。在极速的迭代中,人类对计算资源的需求,也将大幅增长,各类拥有计算资源的厂商将会得到受益。借助AGI,让个人拥有强大的能力,只需要一个人就可以快速的完成整个软件的设计和开发,个人开发将迎来爆发期,而传统的软件公司形态将会受到极大挑战,最终公司形态会演变成由一到几个人的创业团队。由AGI创作的各种作品如短剧,电影,小说等会将人类淹没在信息的洪流中,影片公司,演员,编剧等靠内容创作的公司和人员将会受到极大的冲击。更多的行业同样也会遭受AGI的冲击,不一一列举了,我想阐明的是,AGI对每个个体来说,是非常有益的,即使可能在初期阶段会带来一些负面影响,这些都是AGI爆炸性的能力对人类目前的稳定体系调整的影响,从长远来说,AGI会重新构建一套新社会体系,极大的提高人类的生活水平。过程中,会带来一定的混乱和动荡。
- 基础科学探究,AGI将帮助人类解决数学难题,发现物理定律,探究新的材料等。能源问题是人类迫切希望解决的问题,AGI初级阶段对能源的消耗急剧增加,同时目前的能源利用已经匹配不上科技的发展了,人类的移动电子设备、新能源汽车,都受限与当前的能源储存能力,AGI可以帮助人类解决此问题,以目前的的科技发展预测,首先AGI会帮助人类实现核聚变发电,让人类摆脱石化能源的依赖,其次,AGI会帮助人类寻找新型的储能材料,该材料具有非常好的储能密度、非常快的充放能速度,以及非常棒的稳定性。能源革命会带来科技革命,最终会改变人类的生活习性。AGI也会帮助人类发现物理定律,人类在物理基础定律上已经很长时间没有出现重大突破,而AGI,将会帮助人类不断的探索宇宙的本质。
- 社会结构,AGI必然会给人类的生产力带来质的飞跃,相应的人类的社会结构也必然发生根本性的改变,人类的资源分配方式也会发生很大的变化。
AGI带来的影响将是颠覆性的,对人类社会的影响很难预测,也许会给人类带来光明,也许会让人类划向深渊,但无论如何,AGI已经不可避免的出现,而人类只能默默接受命运齿轮的转动。
最后: AGI是否是宇宙生命的一个大过滤器呢?在实现AGI过程中由于人类和AGI的目标不一致,导致AGI与人类的正面对抗,最终导致地球生命的终结?这似乎是一个很有趣的讨论话题,关于大过滤器理论,参见维基百科
