3_31_未来要么是最好的时代_要么是最坏的时代__论人工智能
文章目录
写人工智能,岱岱压力很大。
岱对这个领域完全门外汉,那些专业术语看都看不懂所以chatgpt出来后,岱岱一直在看,也一直没写。
看了这么久这么多,总算从历史社会哲学角度,看出一些心得来了。
岱岱也只能从这些角度去分析。
毕竟,专业方向岱岱毫无头绪一脸懵逼,但这些切入的视角岱岱还是自信可以说一说的。
思考点比较多,就直接上干货吧。
openAI的技术路线,突破业界意料真正的失落都是无声的。
某种程度上说,对GPT-4的沉默,是一种全方位落后的自觉:随着微软追加投资,OpenAl的估值站上290亿美金,一家创立于2015的人工智能硬科技公司,打破了当下大多数互联网公司的主流叙事。
无论是“已经没有什么创新空间”,还是“用于创新的资源不足”,还是“硬科技被卡脖子”这些流行叙事,在OpenAl面前,一一得到证伪:
在人工智能语义理解这个赛道上,并无任何实质性技术卡脖子。GPT的逻辑,更多是技术信仰,以及运用算力进行试错与暴力破解。
这再讽刺不过
在本应是中国互联网最擅长,最内卷,最做题家的赛道——在这里,我们提出了全球最多的发明专利申请。最终却被美国VC用最直接的方式一力降十会,爆破出了足以颠覆整个科技赛道的全新生产力工具,让还纠结服务机器人和人脸识别商业化的AI独角兽们不敢抬头。
是的,就是堆算力,就是天量录入数据信息,就是暴力破解。
没有啥点石成金的技术突破。
openAI对人工智能没有充分的原理认识,甚至成功了都搞不懂自己为什么会成功。
就发现这个算法模型到了一定程度一定规模,就智能涌现了。
这是openAI自己的原话,不过他们不会将主要精力资源去论证解释这种结果,而是继续堆料。
GPT-4太强,OpenAl也不懂!智能到底是怎么突然「涌现」的?
“新的分析表明,对于某些任务和某些模型,存在一个复杂性阈值,超过这个阈值,模型的功能就会突飞猛进。
斯坦福大学的计算机科学家 Rishi Bommasani 表示,我所知道的任何文献中都没有讨论过语言模型可以做这些事情。
目前研究人员不仅在竞相发现更多的涌现能力,而且还在努力找出它们发生的原因和方式,本质上是试图对不可预测性进行预测。”
大部分科学技术都是弄清楚原理,再去搞成功试验搞出产品。
人工智能不是。
人工智能是我不知道原理是啥,但我这样堆数据堆算力,人工智能就成了。
成了后也只能总结经验,无法给出理论原理。
所以为什么百度花了一千亿花了十年时间,都比不过花了七八年时间花了几百亿的openAI。
因为技术路线就错了。
其实百度也不冤,连科技巨头谷歌也没能找准路线。
这些公司打死都想不到,人工智能的突破性发展,并不是天才们的灵光一闪,而是数据算力的暴力堆砌。
二、 人工智能的进化速度
这个基本上没有多少争议。
只有少部分人认为到后面会越来越慢,大部分人都认为,AI的进化速度是加快的。
比尔盖茨这种懂技术的大佬,他给openAI团队下过一个任务,以为团队要花至少一年时间解决,但不到半年就完成了。
gpt3和gpt3.5的间隔时间就很短。
业界普遍的估计是,今年能出到gpt5。
明年就gpt6了。
这个进化速度太强悍了,可能到一定程度后AI会摸到天花板,再难进步,类似摩尔定律失效一样。
但这个说不太准。
看了一圈,业界的普遍认为,是加速而不是减速。
三、 在AI领域,中国追赶美国的优势和不足
先说优势。
优势很简单。
1、 互联网信息产业上,中国是唯一追赶甚至部分领域并肩美国的存在,AI的基础打的很牢固
2、 中国有国家体制优势,一旦知道openAI的技术路线是干就完了,中国后发优势很快的
3、 中国还有百度华为阿里腾讯等一众巨头平台,和规模庞大的程序员群体
劣势也很明了:
1、AI需要高端芯片,美国封锁芯片,想延缓我们的研发
5:33
芯谋研究>
GPT让英伟达的A100成为关注热点,但据了解,国内为数不多的A100芯片,用来做量化交易的比研究AI的要多得多。这是因为所有人包括OpenAl和微软,都对Al技术的突破始料未及,就连刚公布的OfficeCopilot也仅仅研发了两个月就现炒现卖。要说对AI突破最认真,最超前的预判,全世界要数美国对中国AI的限制禁令。
早在2022年10月,美国就禁止任何中国企业获得先进GPU。GPT的横空出世验证了美国“高墙小院”的“先见之明”,也可以说是美国硅基围墙第一次面对未知的重大创新发挥了“围栏”作用。此前的所有对华制裁都是限制已知的先进技术,现在这堵围墙把没有看到创新也禁止了,一定程度上可以说这道硅墙已经工或者接近竣工。
为了限制地球文明的科技进步,三体发射超级粒子锁死了地球科技。如何在中美不确定的技术竞争中获得确定的优势,美国人的办法与三体类似:利用确定的芯片优势,锁定不可预知的中国技术突破,消灭与中国科技竞赛中的不确定性。这让人对奥巴马是《三体》深度粉丝的往事,产生无限遐想。
2、AI需要广大的数据录入,但中文数据库比不过英文数据库
全世界在互联网上使用中文是就是十4亿,而使用英文的是20亿。
而且很多论文都是英文的。
中文圈在数量上和质量上,其实是比较落后于英文圈。
这个在中国AI突破的初期,是不用怎么担心的问题。
但到了中后期,在芯片算力制约消失后,这个问题会慢慢显露。
3、 中国有太多言论控制,可能起到制约作用
这个美国也有。
美国有很多政治正确,OpenAI在去年八月份就训练得到了GPT-4,但是鉴于其强大的能力,团队决定在充分评估其安全性之前推迟发布。
直到半年多之后,团队为GPT-4加入了众多安全限制之后,才让GPT-4公之于众。
很明显,美国的政治正确延缓了AI半年的发展时间。
而且随着AI后面的进步,openAI还得花更多时间去设置安全栏。
美国方面花时间搞了安全栏,中国肯定也是避不开这个的。
就怕中国要花更多时间去搞安全栏。
很明显,我们肯定会有更多的安全栏。
这对需要追赶美国的中国来说,当然更显拖累了。
四、AI到底会不会发展出自主意识,成为硅基生命?
看了很多议论,可以得出这个事实:
否认AI会发展出自主意识的人,越来越少。
肯定AI会发展会自主意识的人,越来越多。
是的,openAI自己都倾向于后者。
openAI的论文中指出,因为担心通用人工智能的竞赛缺乏安全性指导,OpenAI承诺,如果有人研发出了类似GPT-4的模型,它将停止研究,并与其共同合作来约束人工智能的发展。
原文:
We are concerned about late-stage AGI development becoming a competitive race without time for adequate safety precautions. Therefore, if a valuealigned, safety-conscious project comes close to building AGI before we do, we commit to stop competing with and start assisting this project. We will work out specifics in case-by-case agreements, but a typical triggering condition might be “a betterthan-even chance of success in the next two years.
马斯克本人也这样认为。
值得注意的是。
越来越多人认为,AI不会发展出人类这般的道德情感。
而是会发展出独立于人类的道德情感模式。
换言之,AI会有生命意识,但不会是人类这种。
这个从技术角度理解是:
人类的算力是神经突触,运行方式是细胞运动生理运动。
AI的算力是芯片半导体,运行方式是算法模型
基础就不一样,导出当然会有差异。
从生物哲学角度就更好理解了。
生物学告诉我们,生物因为生存繁衍物竞天择而进化出了意识。
马克思告诉我们,人类的道德观是时代的产物,脱离时代的道德是不存在的。
AI并没有地球生物那样的物竞天择环境,也没有所谓的时代因素,导出自然不同。
AI如果真的有自主意识,大概率是有别于人类的生命意识。
如果这样,我们就不要猜想AI的意识情况会是怎样的了。
碳基生命无法理解硅基生命,就如同夏虫不可语冰。
五、 人工智能引发的社会影响有哪些?
1、 大规模失业是必然
这个不用说,大家都心知肚明,现在gpt4刚被应用,就有很多企业裁员了。
未来AI越进步,失业越多。
2、 信息污染是必然
这个大家也心里有数。
现在很多知乎回答网络图片,乃至很多学术论文,都是AI的手笔。
日积月累下去,信息环境上可能就是AI的信息量反过来大于人类的信息量了。
当人工智能输出信息效占据网络信息主体时,信息污染是必然。
真应了那句话,假作真时真亦假。
如果仅仅导致信息污染还好,就怕到时会引发更严重的社会问题。
3、 生产力极度发达后的供需失衡可能导致社会制度的改变现在网上有一个很稀少但很独特的声音。
那就是认为人工智能是社会主义的先声。
因为人工智能导致的失业,以及后面和手机汽车机器人结合起 来,导致的更大规模失业,会让社会供需严重失衡。
也就是生产的东西太多了,生产端不再是问题,问题是生产出这么多东西,谁来消费掉啊?
不消费掉就是产能过剩,就是产能出清,就是周期性经济危机。
岱岱也认为,美国先发展出成熟的人工智能对美国来说,不是好事。
美国有先诞生人工智能的土壤,因为美国提倡的企业家精神,因为资本市场成熟,因为全球人才优势。
这点上,美国的制度是促进生产力的发展的。
但美国并没有运用成功人工智能的条件,因为美国贫富分化,因为社会群体矛盾,因为民主孱弱的体制问题。
这点上,美国的制度是制约生产力的进一步发展的。
换言之,资本论当年从供需关系上论证,资本主义的私有制必然在生产力极度发达后而废弃。
只有社会主义的公有制才能适应极度发达的生产力。
历史也一再证明,技术的发展不会缩小贫富差距,只会加大贫富差距。
人工智能必然让一群中产返贫,让一群底层无法翻身,同时也让一小批人暴富加暴富。
私有制下,富人最大的财富不是股票房子,而是穷人。
公有制下,肯定还有贫富差距,但不至于过大,穷人也有足够的购买力去消化丰富的产能,能保证生产力的持续发展。
这是网上声音比较小的一个观点。
但却十分独特,所以岱岱特意陈述出来,大家自行辨别。
六、 人工智能这次科技革命有何特点这部分,是岱岱放在最后写的。
因为是最重要的。
岱岱思考了很久很久。
找到这三点:
1、 历次科技革命蔓延的时间都挺久,而这次的人工智能发展的太快了
第一次科技革命,蒸汽机革命,至少花了30年。
1785年,瓦特发明蒸汽机,工业领域开启机器化,1807年,富尔顿制造蒸汽机船,1814年,史蒂芬森发明蒸汽机车,交通运输领域开启机器化。
第二次科技革命,以电力的广泛应用为标志,至少花了30年。
1831年,法拉第发现电磁感应现象,1866年西门子发明发电机。
第三次科技革命,以电脑的广泛应用为标志,花了更久时间。
1959年,第一台晶体管计算机诞生。70年代,第四代大规模集成电路计算机诞生。
1990年代后,个人电脑普及,2010年前后,手机时代降临。现在,第四次科技革命,人工智能革命,时间却短的可怜。2023年chatgpt4就出来了,明年可能出gpt6,给人工智能10年,你能想象发展到什么程度对人类社会产生多大影响吗?
你如果身处第一二三次科技革命时代,人类还能跟上科技发展的脚步。
但第四次科技革命发展的太快了,根本想不到10年后AI 的样子,大部分人是跟不上发展的。
科技革命给的时间越多,人类个体和社会整体,就更能适应更能解决,后遗症就越少。
科技革命给的时间越少,人类个体和社会整体,就更难适应更能解决,后遗症就越多。
这是很简单的常识,不用专业性知识都知道的常识。
2、 这次科技革命发生在乱世,而不是盛世。
第二点就不是常识了,很多人认识不到这点。
给大家讲下历史大家就懂了。
核武器诞生于二战末期,其实不是美国在研发。
德国也摸索到了这个领域,也在搞这个武器。
可想而知,如果是德国而不是美国先搞出核武器,二战结果难说,甚至人类命运都难料。
那么我们换个思维想下,如果核武器并不是二战时期有萌芽,而是在一个太平时代有萌芽并发展出来的,人类还会这样惊险吗?
太平时代各国搞出核武器,可能世界大战就打不起来了。
是的,核武器诞生于战争时代,对人类来说是一次巨大的危险。
或者说,任何一个重大的科技革命,如果诞生于乱世,对人类来说都是一个巨大的危险。
乱世放大的就是人性中恶的一面,其不可控因素太多,技术在乱世中被滥用被恶用的概率,要远高于和平时代!
现在,从苏联解体到俄乌战争,从1991年到2022年,这30年虽然局部动乱不断,但仍是人类难得的和平期。
甚至可以说是人类的黄金时代。
如果人工智能在这30年间诞生并发展,那就好了。
而现在俄乌战火连天,美国霸权摇摇欲坠,中国台海蓄势待发。
要不是有核平衡,三战早打起来了。
人工智能在这样肉眼可见风急浪高的乱世,横空出世了。
毫无疑问,滥用恶用AI的概率,自然会被这个乱世给放大。
就说个最简单的例子,如果AI技术发展到一定程度人类发现可能有自主意识不能继续发展了。
如果在太平时代,各国还能停止AI的研发,然后坐在一起搞个《AI互不扩散条约》,在临门一脚上打住。
可现在是乱世,就算知道发展下去有严重后果,可各国停的了吗?
最近不是有千人签名呼吁停止chatgpt研究半年吗,这个怎么可能停呢?
美国会停下来,让中国有时间追上?
在乱世就是这样的,明知道这个临门一脚有危险,你都不敢停。
因为这是乱世的国际竞争,这是囚徒困境——“我停了他要是不停,我岂不是吃亏了?不行!这个临门一脚再危险我也要踹!”
是的,乱世自带AI发展的加速器,却没有AI的刹车片!
我们只能祈求当下中美的AI竞争,不是有田下山的剧情。
另外,还需要注意的是。
和平时代比乱世,更具有社会稳定性和容错率,自然更能消化科技革命带来的各种负面影响和后遗症。
乱世中,社会本来就弊端丛生,又出了个引发不稳定因素的科技革命,那这种容错率就大大降低了。
这就是屋漏偏逢连夜雨。
AI技术的负面影响和后遗症,如果是太平盛世还能慢慢消化好好消化,现在是乱世,对其负面影响和后遗症,我们只能硬着
头皮上了。
所以说啊——
企业家金融家寻求技术突破寻求新经济增长点,赞美的说AI是生逢其时!
政治家考虑到国际斗争考虑到国家稳定,感慨的说AI是生不逢时!
这是很少人意识到的地方,点破了就好理解了。
3、 人工智能和前面几次科技革命有本质上的不同
这一点是最重要的。
有这样一张图,是支持AI 技术的人发的,希望消除大家对AI技术的担忧。
有人说,
高速发展的科技会伤害到人,甚至把人变成奴隶。
但真相是,科技永远不会主动伤害你。真正会伤害和奴役你的,是那些掌握了高科技,你的权利,并试图通过科技控制你,实现某种野心的人……….这个,你可以想像!
技术是中立的,技术没有害人的心思,技术如果害人不是技术害的而是用技术的人害的。
就像不是刀杀你,而是用刀的人杀的你。
这是历史的惯性思维。
因为在第一二三次科技革命,这些都是被验证过的真理。
所以我们认为技术中立,技术无辜。
但是,这次的人工智能不同。
人工智能和蒸汽机发电机最大的不同,是它真的可能诞生自主意识。
一把刀没有自主意思,所以其好坏全取决于用刀的人,我们没道理对刀指指点点。
而如果一把刀有了自主意识,那么其好坏就不仅取决于用刀的人,还取决于刀本身,我们对刀就必须上纲上线认真考量了。
是的,人工智能现在还是死物,未来如果活过来了,那么我们在一二三次科技革命中得出的技术中立观念,就得彻底打碎了。
以上,就是岱岱这段时间对AI的一些思考。
没有任何专业术语专业知识。
岱岱都是从历史人文社科角度切入,这些岱岱擅长的角度切入,而做的分析。
对此,肯定有不正确和不足的地方,岱岱和大家互相交流,一起探讨。
荣幸啊,能见证人工智能革命的我们, 是如此的荣幸。
不安啊,要见证人工智能革命的我们,是如此的不安。
一句话,概括人工智能的未来——
未来
要么是最好的时代
要么是最坏的时代
文章整理来源于微信公众号:吃瓜群众2023
也可加入微信群小瓜圈
小瓜圈同步岱岱官群每日圈文+群聊信息等小瓜圈会有象征性付费
V: sevenmona (每日最新圈文)
文章作者 吃瓜群众岱岱
上次更新 2023-03-31