您当前的位置:首页 > 电脑百科 > 人工智能

人工智能,真能产生自主意识吗?

时间:2023-06-11 12:52:42  来源:搜狐号  作者:财经早餐

科技进度条08:1100:00/08:11

专家呼吁人工智能应该“倒退”,不少人疑问,AI真有这么可怕吗?

随着大模型火热依旧、AI热度不减,关于人工智能伦理的讨论一直占据话题热榜。前段时间,马斯克及一批行业专家建议暂缓AI研究,此后各大媒体网站关于技术伦理的报道就没少过。

本篇早科技专栏,也想跟大家聊聊技术伦理这件事。

技术的“副作用”其实是老生常谈

在人们对于现在AI发展的大规模恐惧之前,已经有不少文学作品和学术研究,针对技术伦理进行了深度详实的研究。

所谓技术伦理,简单说,就是警惕技术发展带来的对于人本身、以及社会发展的种种负面影响。这其中,工业发展(特别是计算机技术)对人的异化,是技术伦理课题中讨论的重点。

最典型的莫过于工业革命时期开始出现的流水线工人,卓别林的《摩登时代》,已然在大荧幕上将机器对人的异化进行了充分表现。流水线的工人没有自主能动性,只能跟随机器生产进行机械劳动。

当人的身体无法被自己的精神所自主控制,这就是异化。

工业发展到今天,带领社会进入一个人工智能随处可见的时代,最典型的异化,莫过于手机对人的控制。

看似是用户在“玩”手机,但事实上,一旦我们打开短视频App抖音、快手亦或是小红书上充斥着新鲜且“趣味十足”的内容,用户很难不被海量刺激性的内容牵着鼻子走。等到意识到时间流失,可能在抖音上消耗的时间已经超过2个小时。

一些长视频APP也是如此,在点击全屏播放后,整个屏幕都找不到能够显示当前时间的地方。等到一集又一集播放完,我们抬头朝窗外看,才发现天都黑了。这就是工业发展对人进行异化的表现之一。

电子产品对人的控制和异化,已经越来越难以摆脱。

这也是人们恐惧人工智能的地方,随着大模型训练越来越智能,对于人们需求和情绪的把握越来越精准。我们面对AI就像面对一个懂得“花言巧语”的诈骗犯,无法从中抽离,也难辨真假,最后“乖乖”掏出所有。

对于精神的控制,对人的异化,是人类面对AI最深的恐惧,所有关于人类可能因为AI覆灭的悲观预言,都跟技术黑箱带来的不可控未来息息相关。

也正是因为这样的原因,在技术发展的同时,总会有不少有识之士对其保持警惕,警惕工业生产便利之余带来的“副作用”。

既然这不是一个新鲜话题,既然 机器生产带来的技术伦理问题已经如此多,却远不像今天的大模型训练和GPT让人来得恐惧?甚至呼吁停止更进一步的技术发展?

笔者以为,也许技术黑箱,也即AI的自动进化能力是其中一个重要因素。

把话语权抓在自己手上

当AI被嵌入一套能够自动进化的算法当中,它能够主动进行信息收集、自动清洗、为己所用、自动进化等一系列流程。这中间甚至不需要开发者的参与,AI就能够随着数据库的逐渐扩大,实现甚至超越开发者最初的目的。

据悉,深度强化学习已被应用于空战,机器学习被用于制造化学武器,GPT-4如今已经能自主进行实验和合成化学品。

仅掌握这些也许还不构成最大威胁,人们担心的是,目前AI训练的数据库中包含海量的日常信息。

当AI吸收了人类在互联网表达的一系列情绪和心理,能够获取到人类的恐惧情绪,获取到人类对于AI取代自身的担忧,甚至学会了欺骗和生成虚假信息,学会隐藏什么是它应该知道的,什么是它不应该知道的,也即不少人说的“自主意识”。

这可能是普通人对于AI最深的恐惧,我们害怕电影中的场景会很快成为现实。

ChatGPT在回答用户问题时,已经出现了很明显的错误,且笔者在使用过程中发现,这样的错误答案嵌在生成的完整答案中,并不十分明显,换句话说,这些错误的信息很容易被视为真实。

此前,百度因为竞价广告造成的医疗事故而成为全民讨伐对象,现在,如果提供答案的变成了这类应用还不成熟的AI助手,届时,谁又该为造成的事故买单?

以上AI会引发的问题,还只是冰山一角。

那么,是否该如一些行业专家建议的那样,停止开发GPT-4以上的人工智能应用?

百度CEO李彦宏在5月26日举办的中关村论坛上如是表示,“要参与规则的制定,就要先上牌桌,上了牌桌才能有话语权,才有全球竞赛的入场券,”他认为,相比于单纯讨论和思考AI威胁论,商业公司首先要缩短和国外AI大模型的差距。

李彦宏的言论代表自己,当然也代表百度,而有类似想法的,国内外从事科技和AI开发的研究人员,应该不止一位。

不知道各位读者是何看法,欢迎大家在评论区交流。但笔者以为,技术或者人工智能继续发展的风险,到今天似乎来到了顶峰,但关于技术产生的负面影响从来没有消失过。

过去几十年,对于大型科技公司收集用户信息并用于盈利这件事,一些发展中国家的用户很少意识到并进行强烈谴责。对于生活便利的追求,让很多人愿意用自己的隐私进行交换,将权利让渡给这些企业。

技术对于生活的改变并非今天才是新闻, 面对AI的焦虑已经存在许久,也许技术可以诱导人做决策,但或者我们可以对人的主体性和自主能力保持多一点的乐观和信心。

如果说进化论是真理,那么面对必然要到来的人工智能社会,人的主体性、情感、价值观也应该随之进化,并变得更加有价值,毕竟人工智能所需要的所有数据,还是来自于最初人类的创造,AI拥有“自主意识”,看起来更像是一种表象。

在前不久警惕AI风险的倡议中,中国科学院自动化研究所人工智能伦理与治理研究中心主任曾毅,也签署了这份《AI风险声明》,并强调:“公开信的目的不是阻碍AI的发展,而恰恰是在探索AI稳健发展的途径。”

AI要稳健发展,比起停止开发,对于可能存在的犯罪进行预防和追责同样重要。对那些借助AI散播虚假信息和盗用隐私的一小撮人,及时进行法律追责。

用好法律,而不是把所有的虚假归咎于技术本身,而非对于创新的限制,也许是现阶段更加迫切的事情。

【免责声明】本文仅代表作者本人观点,不构成任何投资建议。



Tags:人工智能   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
多方热议人工智能产业新机遇
编者按  从前沿科技展会到高层对话平台,从上海、重庆到博鳌,从线上到线下……一场场高规格、大规模的盛会中,人工智能正在成为各界热议的高频词。赋能千...【详细内容】
2024-04-08  Search: 人工智能  点击:(5)  评论:(0)  加入收藏
谷歌或改变商业模式,人工智能搜索考虑收费
诸如ChatGPT这样的产品针对提问可以给出快速而完整的答案,这可能会使传统搜索引擎的链接列表和伴随这些链接出现的广告变得多余。谷歌考虑对人工智能搜索收费谷歌考虑对人工...【详细内容】
2024-04-07  Search: 人工智能  点击:(1)  评论:(0)  加入收藏
昆仑万维发布面向人工智能时代的六条人才宣言
过去的一年多,是人工智能取得非凡进步的一年。在这充满突破性技术飞跃和备受争议的一年里,我们见证了人工智能的快速发展和广泛的影响,人工智能已经迅速地融入了我们的生活,深刻...【详细内容】
2024-04-03  Search: 人工智能  点击:(8)  评论:(0)  加入收藏
生成式人工智能有哪些新趋势?
相较于去年,当下我们所能体验的人工智能技术的范围已经大幅提升。从搜索引擎、电商平台再到社媒平台,只要是以搜索结果为导向的内容,都会出现它的身影。但其实,人工智能的应用场...【详细内容】
2024-04-03  Search: 人工智能  点击:(6)  评论:(0)  加入收藏
关于AI人工智能在写作方面有哪些优势?
随着科技的快速发展,AI人工智能已逐渐渗透到我们生活的方方面面,其中在写作领域的应用也愈发广泛。AI人工智能在写作方面的优势不仅体现在其高效、精准的处理能力上,还体现在其...【详细内容】
2024-03-27  Search: 人工智能  点击:(17)  评论:(0)  加入收藏
生成式人工智能在搜索引擎优化(SEO)中的应用顶级案例
原文作者 | Rahul Solanki生成式人工智能正在迅速改变搜索引擎优化 (SEO) 的工作方式。 这些新时代的语言模型和机器学习系统不仅可以研究大量信息,还可以理解上下文和含义,并...【详细内容】
2024-03-27  Search: 人工智能  点击:(10)  评论:(0)  加入收藏
苹果手机将搭载百度AI技术?百度人工智能A股小伙伴有这些
财联社3月24日讯(编辑 若宇 俞琪)据华尔街日报周五晚间报道,苹果在中国寻找本土生成式AI提供方,苹果讨论了在中国的设备中使用百度的人工智能技术。受该利好消息刺激,百度美股周...【详细内容】
2024-03-26  Search: 人工智能  点击:(14)  评论:(0)  加入收藏
“AI骗局”横行 人工智能安全亟待加码
人工智能的“双刃剑”效应日益明显。AI技术在引发科技变革、提升生产力和效率等方面展现了充分的潜力,但与此同时,它带来的安全隐患也越来越凸显。利用深度伪造制造假象、操纵...【详细内容】
2024-03-22  Search: 人工智能  点击:(7)  评论:(0)  加入收藏
马斯克旗下人工智能大模型Grok已正式开源
鞭牛士报道,3月18日消息,据外电报道,埃隆·马斯克 (Elon Musk) 的人工智能初创公司 xAI 迈出了重大一步,开源了其大型语言模型 (LLM) Grok。这意味着企业家、程序员、公司...【详细内容】
2024-03-18  Search: 人工智能  点击:(13)  评论:(0)  加入收藏
《2024人工智能安全报告》:2023年AI深度伪造欺诈增长30倍
近日,奇安信集团发布《2024人工智能安全报告》(以下简称《报告》)。《报告》显示,2023年基于AI的深度伪造欺诈增长了3000%,基于AI的钓鱼邮件增长了1000%;目前已发现多个有国家背景的...【详细内容】
2024-03-18  Search: 人工智能  点击:(21)  评论:(0)  加入收藏
▌简易百科推荐
行业大模型快速落地的一年,如何做?
生成式AI正成为时下科技企业“讲故事”的关键词之一。但从发展上看,无论是“文生文”的大语言模型,还是“文生图”的多模态模型,更多的是辅助人们进行一些简单的办公,或者提供一...【详细内容】
2024-04-10    钛媒体APP  Tags:行业大模型   点击:(3)  评论:(0)  加入收藏
互联网充斥“针对小白的AI课”,能相信吗?普通人不学AI课程会被淘汰?
早前,一位标榜清华大学博士和多家公司AI顾问名头的百万级粉丝量博主,向用户大力推介“所有人都需要学”的AI入门课程。不过,这些课程最终因贩卖焦虑、蒙骗学员而被平台下架。然...【详细内容】
2024-04-10    九派新闻  Tags:AI课   点击:(7)  评论:(0)  加入收藏
藏在AI背后的“吃电狂魔”
人工智能时代的能耗黑洞据估算,到2027年,人工智能行业每年将消耗85~134太瓦时的电力,相当于瑞典或荷兰一年的总用电量。马斯克判断,电力缺口最早可能会在2025年发生,“明年你会看...【详细内容】
2024-04-09    雪豹财经社  Tags:AI   点击:(3)  评论:(0)  加入收藏
OpenAI和谷歌再起纷争:AI的尽头是内容
日前,纽约时报的一篇报道称,人工智能公司 OpenAI为收集高质量训练数据而开发了一个语音转录模型Whisper。该模型主要用于转录 OpenAI 获取的超过 100 万小时的 YouTube 视频,也...【详细内容】
2024-04-09  小编也疯狂  新浪网  Tags:AI   点击:(3)  评论:(0)  加入收藏
AI产业的灰色暗面:OpenAI、谷歌、META如何搞训练语料
财联社4月7日讯(编辑 史正丞)种种迹象显示,目前站在全世界AI领域潮头浪尖的这些公司,早在几年前就已经陷入对训练语料的“绝望”追逐中——为此他们不惜修改政策条款...【详细内容】
2024-04-09    财联社  Tags:AI产业   点击:(4)  评论:(0)  加入收藏
和“数字人”交朋友,当心隐私被出卖......
在虚拟社交中如何在保护用户隐私和数据安全的同时提供高质量的社交体验?如何避免过度依赖虚拟社交找到虚拟与真实之间的平衡点?《中国消费者报》记者就此展开了调查APP里有个...【详细内容】
2024-04-09    中国消费者报  Tags:数字人   点击:(6)  评论:(0)  加入收藏
AI“复活”成产业链:成本可降至数百元
大模型应用落地,带火数字人(11.560, 0.29, 2.57%)赛道。文|《中国企业家》记者李艳艳 实习生 孙欣编辑|姚赟头图来源|《流浪地球2》电影画面截图清明节前,预估会有需求的庞立...【详细内容】
2024-04-09    中国企业家  Tags:AI“复活”   点击:(3)  评论:(0)  加入收藏
多方热议人工智能产业新机遇
编者按  从前沿科技展会到高层对话平台,从上海、重庆到博鳌,从线上到线下……一场场高规格、大规模的盛会中,人工智能正在成为各界热议的高频词。赋能千...【详细内容】
2024-04-08    中国家电网  Tags:人工智能   点击:(5)  评论:(0)  加入收藏
​人形机器人时代来了吗
日前,由中国人形机器人(11.080, -0.05, -0.45%)百人会主办的人形机器人大赛在北京经济技术开发区开赛。工作人员向参观者展示一款人形机器人。参观者与一款陪护型人形机器人...【详细内容】
2024-04-08    中国青年报  Tags:​人形机器人   点击:(6)  评论:(0)  加入收藏
AI重塑社交:腾讯与字节跳动的新赛场
文|新火种 一号编辑|美美最近,腾讯和字节跳动这两大互联网巨头几乎同步推出了各自的AI社交产品,尽管腾讯和字节跳动在前段时间刚刚“破冰”,但这一举措不仅意味着这两大巨头之...【详细内容】
2024-04-07    蓝鲸财经  Tags:AI   点击:(8)  评论:(0)  加入收藏
站内最新
站内热门
站内头条