ChatGPT能否成为互联网后下一个系统性机会?

为何是OpenAI:OpenAI之所以能超越于谷歌,是他们真的在尝试理解「学习」这件事的本质。

ChatGPT的自训练逻辑:AI会把其中的一个词藏起来,然后猜这个词应该是什么,有点像机器自己和自己玩游戏,如此它的语言理解能力就变得越来越强——我觉得到了这个时间点上,当AI开始利用大量非标注数据完成自主训练,ChatGPT的出现就只是个时间问题了

ChatGPT本质上是一个统计模型:ChatGPT无论如何惊艳,它仍然是个统计语言模型,本质还是基于它所看到过所有数据,用统计意义上的预测结果进行下一步输出,当它拿到的数据里有逻辑的时候,它会通过统计的方法把逻辑找出来,让你感觉到它的回答很有逻辑,但假如它读了很多杂乱无章的文本,它一样会说话没有逻辑,这是统计语言模型天生的缺陷。

统计和逻辑的关系是啥:一派是觉得极致的模拟就可以实现逻辑,虽然只是基于统计学,但看起来有逻辑其实就等于逻辑本身;另一派觉得所有模拟都只能得到大概的正确,最后还是要建立在极其精准的规则之上,两派的分歧可能就是统计和规则的区别。

ChatGPT倾向性的争论:随着人类用越来越多的反馈干预了它的判断,那会不会让ChatGPT带有某种思潮,比如说政治倾向,最近我看到国外有一些人对它进行测试,发现它在政治上并不是完全中立的,是一个左翼的自由派环保主义者。

关于“宪法AI”:这个也是Anthropic提出的,叫做「宪法AI」。就是我们能不能让AI在一套宪法,或者说一套规则下,实现自我进化,最终变得符合这套规则。举个例子,每个国家都有自己的监管体系,比如中东地区,只有符合当地监管的AI才能进入该国,我觉得这会是一个非常好的方向,可以大大降低AI吸收信息的成本,提高它的效率。

扫描二维码关注公众号,回复: 15069051 查看本文章

NLP从业者受到的影响:以前那些传统的NLP的手段,在这个时代肯定是不会再有用了,比如大量的语法树之类,非常繁琐,过去开发过程很痛苦,要一支很大的团队才能做出一个很小的东西,我们肯定不会再回到那个年代,老的技术基本都可以用大型语言模型(LLM,large language model)替代。

猜你喜欢

转载自blog.csdn.net/qq_39154376/article/details/129191865