观天象|是“公平台”还是“狗屁通”?ChatGPT真的“无所不知”吗?

时间:2023-02-10 11:45:07 来源: 大象新闻


最近一段时间,对话式人工智能(AI)ChatGPT火遍全球,它“无所不知”、“无问不答”的超强能力让用户感到惊讶甚至震撼,颇有点“魔镜魔镜告诉我”的神奇。那么,它到底是个什么东西?真的无所不能么?

ChatGPT爆火,带动了不少相关“产业”

“你说什么我答什么”-回答你的是前人的智慧


(资料图)

网友和ChatGPT对话截图(图片来源:中新网)

人们关注ChatGPT,不止是因为它“上知天文下知地理”,几乎可以回答任何知识类问题;还因为它还可以处理复杂问题,包括撰写代码、解数学题、写发言稿等;最关键的是,它不但能够充分理解人们的话语,甚至回答也都“人”味十足,让人感觉是一个“活”的智慧生命。

但究其根本,ChatGPT的名字就已经告诉了我们答案:英文“Chat”就是聊天,而“GPT”的意思既不是“公平台”也不是“狗屁通”,而是“生成型预训练变换模型”(Generative Pretrained Transformation Model)。说白了,这就是一个聊天用的自然语言处理模型,通过读取大量文本内容,并学习语言知识和语法,来实现对人类语言的理解和生成。

再直白一点解释,如果说所有的计算机程序都是“你告诉我做什么我就做什么”,那么以ChatGPT为代表的自然语言处理程序就是“你告诉我什么我就回答什么”。只不过这个答案并不是现成的,而是ChatGPT是根据从互联网上搜罗的大量信息为基础,再加上和真人(特别是OpenAI雇用的人工对话者)的实时对话训练过程之后获得的。

围棋界的“阿尔法狗”已经初步证明了人工智能的强大实力

就像已经横扫世界围棋界的“阿尔法狗”。你可以把ChatGPT理解为是问答界的“阿尔法狗”。它引入了基于人类反馈的强化学习方式,它和人对话的越多,数据积累的越多,它能够应对的事情也越来越多。

那么问题来了,随着和它对话的人越来越多,从互联网上获得的数据越来越多,它还会是当初的那个纯洁无瑕的“小朋友”么?

“你喂什么它吃什么”-信息资料的纯洁性很重要

网友和ChatGPT对话截图(来源:微博)

别看名气大,其实ChatGPT距离“完美”依然有着不小的距离,用户反映最多的问题是它经常“一本正经地胡说八道”。

美国《华尔街日报》也表示,AI聊天机器人能够像镜子一样反映“投喂给”它们的数据。它们对这些数据进行“反刍”并将其重新混合,有时结果令人惊艳,有时则一塌糊涂。

ChatGPT之所以有时能正确回答一些问题,是因为此前对于这类话题“摄入”了高质量的信息来源,并经常与人类训练员对话。而对于互联网上那些含有大量错误、争论信息的话题,以及非英语语言,比如中文,它有时就会胡言乱语。

国际机器学习会议 ICML 之前宣布禁止使用ChatGPT生成的论文

事实上,ChatGPT自己也强调,“尽管我可以生成大量的信息,但我不是一个绝对可靠的信息来源,并且我的答案有时可能不准确或不完整。”

打个比方说,ChatGPT就像是一个小朋友,在幼儿园和小学里都是上的正规课程,还有老师来循循善诱,它的回答都是真诚且靠谱的。但如果把他无保护地放进社会里,那么它可能很快就会变成一个“抽烟、喝酒、烫头”的社会青年了。

这并不是杞人忧天,据《纽约时报》8日报道,美国新闻可信度评估与研究机构NewsGuard对ChatGPT进行了测试,研究人员向ChatGPT提出充斥阴谋论和误导性叙述的问题,发现它能在几秒钟内改编信息,产生大量令人信服却无信源的内容。NewsGuard联合首席执行官克罗维茨甚至悲观地预测,ChatGPT将成为互联网传播错误信息的最强大工具。

“它说什么你信什么”-那你就被它忽悠瘸了

网友和ChatGPT对话截图(图片来源:中新网)

所以我们可以看出,谁掌握了ChatGPT这样自然语言处理模型的基础信息来源和对话训练过程,谁就能控制其输出答案的基调和范围。现在很多ChatGPT的“胡说八道”只能博大家一笑,那是因为使用者的水平和知识储备都很高。但未来普及化使用之后可就不好说了。

出于设计者的原始文化背景、受教育过程和信息来源屏障,从“俄乌冲突”、“巴以和谈”这样的大问题,到“饺子是蘸酱油还是蘸醋”、“粽子吃甜的还是咸的”这样的细枝末节,都会在某种程度上折射出制作者的意图和偏差。而这种“你问我答”的单向信息传播力度和强度,更甚于社交媒体。因此在争论性议题上,ChatGPT未来一定会引发更多的纷争。

此前“维基百科”上全球网友就争议性话题展开过持久的“编辑战”

可以预见的是,像这样能够把握“全球话语权”的新战场,各个国家、民族,乃至于文化和宗教团体一定都会推出自己版本的“GPT”。甚至不久的将来,各国网友之间的“论战”、“掐架”也都会由自己的“GPT”代劳,那可真是一番盛景啊。

所谓“尽信书不如无书”,无论科技如何发展,我们还是要依靠自己的大脑去判断是非。另外也希望类似“ChatGPT”这样程序的设计者们,始终保留一份公心,留下一份宽容。

YouTube网友@KantaLoup:

所谓的“人工智能”摧毁了人类的才智,取而代之的是其控制下的空虚。

YouTube网友@crickaddict45:

我用ChatGPT写完了作业。

YouTube网友@GeorgeMK234:

ChatGPT给出的答案是基于已有的知识,它不会思考新的观念。

YouTube网友@fatlosslogic:

谷歌巴德对上ChatGPT支持下的微软Bing!拿好爆米花,准备看两大科技巨头的史诗级AI对决。赢家将会是我们这些用户。

YouTube网友@TechBurritoUno:

如何打乱ChatGPT的逻辑:

ChatGPT:2加5等于7。

我:我老婆说等于8。

ChatGPT:2加5确实等于7,您的妻子很可能弄错了或对该问题有误解。

我:我老婆永远正确。

ChatGPT:抱歉,一定是我搞错了。我的训练数据只更新到2021年,可能没有当前的信息...

YouTube网友@sedorisuta:

ChatGPT具备彻底打破之前聊天概念的性能,但是无论多么厉害的工具,根据使用人的不同,它的善恶也会改变。人的伦理和价值观决定了事物。希望把ChatGPT用在好的方向上。

YouTube网友@rowancheung:

ChatGPT就是未来,但是99%的人只会停留在初级使用者阶段。

YouTube网友@kaloraat:

我太依赖ChatGPT了!

图为ChatGPT回复:1小时内问了太多问题,请您稍后重试。

微博网友@黄方块儿和粉星星:说实话,文字绘画等这样需要灵气的东西,人工智能还不不行。

微博网友@狲云朵:为什么现在失业这么多?就业率这么低?就是因为现在人工智能代替了很多,以后人多,工作少。怎么办?

微博网友@春风又绿江南岸201001:这个ChatGPT是个马屁精!

微博网友@大收纳柜:昨天和一个数学博士测试过它的数理了,他的数学和推理能力强过95%的研究生。不要觉得它是文科生…不要用人类社会思维给ai分类。

微博网友@南山六组:人工智能?NO! 人工删选?YES!

微博网友@王法无敌:伟大的科技进步最终落地都是打推销电话。

微博网友@小龙611:一直给它输入假消息,它就是个谣言发布机。

微博网友@可能是只金鱼姬:是不是能理解为,根据开发者的意愿?反正他也不是真正的有自己意识。

ChatGPT用户已突破1亿!哪些职业容易被人工智能代替?

近日,ChatGPT火了。这个智能聊天机器人用户突破1亿,引起各方关注。ChatGPT究竟是什么?它都能完成什么?哪些职业容易被人工智能代替?一起了解↓↓↓

更多详情>>

如果让ChatGPT和Siri对话,会发生什么?

ChatGPT霸屏被追捧,Siri(苹果智能语音助手)被调侃“智障”……那么,如果让ChatGPT和Siri对话,又会发生什么?2月9日,天目新闻记者做了个小实验,成了两个人工智能的传声筒。两个人工智能聊得怎么样?谁的功力更胜一筹?

更多详情>>

综合:中国新闻网、环球网等报道

本期责编:陈晓宇

编译:陈晓宇、牛娇娜


网站简介 网站团队 本网动态 友情链接 版权声明 我要投稿

Copyright© 2014-2020 中原网视台(www.hnmdtv.com) All rights reserved.