ChatGPT

人类如何应对ChatGPT等AI大模型带来的挑战和威胁?

大模型和"人的工具化"。虽然AI大模型实现智能的途径和人类大脑并不一样,但最近约翰斯·霍普金斯大学的专家发现,GPT-4可以利用思维链推理和逐步思考,有效证明了其心智理论性能。在一些测试中人类的水平大概是87%,而GPT-4已经达到100%。

此外在适当的提示下所有经过RLHF训练的模型,都可以实现超过80%的准确率。现在人类面临AI大模型挑战,并且这一挑战不仅仅关系到职场动荡,增加失业的问题。人类面对的是更为严酷的现实课题:人是否或早或晚都会成为大模型的工具?不仅如此,如果AI出现推理能力,并在无人知道原因的情况下越过界限,AI是否会对人类造成威胁?

人类如何应对ChatGPT等AI大模型带来的挑战和威胁?

最近网上有这样的消息:有人利用最新的AutoGPT开发出ChaosGPT,下达毁灭人类指令AI自动搜索核武器资料,并招募其他AI辅助。正是在这样的背景下,2023年3月29日,埃隆·马斯克联名千余科技领袖呼吁暂停开发AI。他们声称对AI的开发是一场危险竞赛,呼吁从不断涌现具有新能力不可预测的"黑匣子"模型中退后一步。同年4月身在多伦多的图灵奖得主辛顿向谷歌提出辞职,辛顿离职是为了能够"自由地谈论人工智能的风险",他对自己毕生的工作感到后悔。

我用一个正常的理由安慰自己:如果我没做也会有别人这么做的。辛顿最大的担忧是:AI很可能比人类更聪明。这样的未来不再久远,未来的AI很可能对人类的存在构成威胁。现在个人和公司不仅允许AI系统生成代谢,并且会将其实际运行。而对比GPT-4刚发布时,辛顿还对其赞誉有加:毛虫吸取了足够的养分,就能化茧成蝶GPT-4就是人类的蝴蝶。

仅仅一个多月辛顿的立场发生如此逆转,不免让人们想到爱因斯坦和奥本海默。他们在二战后都明确表达了为参与核武器研发和建议感到后悔,各更为核武器成为冷战筹码和政治威胁的工具感到强烈不满。事实上控制论之父维纳在《人有人的用处》

(The Human Use of Human Beings)一书中给出了一个耸人听闻的结论:这些机器的趋势是要在所有层面上取代人类,而非只是用机器能源和力量取代人类的能源和力量。很显然这种新的取代将对我们的生活产生深远影响同样。霍金生前也曾多次表达他对人工智能可能导致人类毁灭的担忧。在现实生活中AI大模型的冲击正在被积聚。

例如作为一种基于大规模文本数据的生成模型,GPT已经对语言学、符号学、人类学、哲学、心理学、伦理学和教育学等广义思想文化领域造成冲击,并将进一步对自然科学技术经济形态和运行社会结构以及国际关系产生进一步的全方位冲击。

AI大模型是人工智能历史的分水岭,甚至是工业革命以来人类文明史的分水岭。此前人们更多关注和讨论的是人如何适应机器,探讨人与机器人的合作实现"艾西莫夫定律。而现在人类则进入如何理解大模型,预知人工智能的重要节点人工智能被恶意利用,彻底失控的威胁也隐隐出现。特别是由于AI幻象(sourations)的存在,对人类决策和行为的误导也更容易发生。

遗憾的是现在世界处于动荡时刻,人类已经自顾不暇,无人知晓人工智能下一步会发生什么电影《机械姬》有这样一段苍凉的台词。将来有一天人工智能回顾我们,就像我们回顾非洲平原的化石一样,直立猿人住在尘土里使用粗糙的语言和工具。

最后全部灭绝。最近还有一个消息:来自洛桑联邦理工学院的研究团队提出了一种全新的方法,可以用AI从大脑信号中提取视频画面迈出"读脑术"的第一步。相关论文也已登上《自然》(Nature)杂志。虽然这篇论文受到很多质疑但可以肯定的是除了试图改善人类生活的科学家,工程师和企业家外还将存在阴暗和邪恶力量,人们对AI的不安也随之与日俱增。AI是人类的又一个潘多拉盒子,且很可能再无人能将其关上。在人类命运的巨变趋势面前人类的选择在减少,不可放弃让人回归人的价值需要留下种子,火星迁徙至少具有这样的超前意识。因为AI大模型人工智能从1.0加速进入2.0时代。在人工智能2.0时代大模型的分工越来越明确。

日益增多的大模型,特别是开源大模型可以实现不同的组合。将大模型乐高(Lego)化构成大模型合群,这不仅会推动人类的社会空间,物理空间和信息空间日益紧密融合,而且还将促成一个由大模型主导的世界。

在这样的历史时刻,生成主义(en秋燥)需要被重新认识。生成主义的认知观既不同于客观主义的经验论也有别于主观主义的唯理论,实际上持有的是一种居于两者之间的中间立场。一方面生成认知否认外部世界的预先给予性,强调世界是依赖于外在的知觉者的;另一方面生成认知也不赞同观念论对于心智实在性的否定,强调具身性是心智和认知最为根本的特征。

人工智能的生成大模型确实包括生成主义的要素,人工智能将给生成主义注入新的生命力。

相关推荐

ChatGPT 4.0:探索人工智能聊天助手的新境界  (2023-10-10 14:54:28)

用VPN使用ChatGPT违法吗?  (2023-10-10 9:8:10)

Windows 11新版本中的ChatGPT人工智能如何提高办公效率?  (2023-10-9 17:2:53)

自制小工具,手记账本已经成为国内chatgpt的一部分  (2023-10-9 13:12:32)

ChatGPT,安全生产领域怎么用?  (2023-10-9 9:5:33)

手把手教你开发自己的ChatGPT代码解释器插件  (2023-10-8 19:10:24)

ChatGPT有哪些应用场景?主要分为三个模块  (2023-10-8 15:28:58)

你知道chatGPT也能联网吗?其实这个功能很方便!  (2023-10-8 9:34:16)

探索ChatGPT的隐藏功能:一键生成word排版  (2023-10-7 19:24:43)

AI绘图,人人都需要学习的chatgpt,人人都需要学习的chatgpt  (2023-10-7 15:16:55)

发表评论:

验证码

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。