学习AI的几点体会

lookcc3

30多年前读研究生时，我学过4门AI的课程。但当时的许多知识现在都落伍了。我现在学习AI、学习大模型，就像老胡学炒股；随用随学，完全是个新手。这点体会也都是新手的体会，老年人学习能力也差，让大家见笑了。欢迎批评指正。

1、用AI学习AI。

AI特别适合“用中学”、用AI学习AI：对AI有问题的时候可以直接问AI，立刻就能得到你想要的答案。比如，可以问CHatGPT有多少参数？大模型有没有记忆、Token是什么意思等等。今天听了华师大一个老师的报告，感觉未来的教育很可能会是革命性的。

2、问问题的学问。

不久前，北大、清华等各出了一些DS的应用教程。我下载下来学习了一下。两个学校的重点都在谈“提示词工程”。我感觉，所谓“提示词工程”，就是教给你如何问问题。于是，就问DS：提示词工程是不是就是问问题？DS回答说：非常接近这个意思。由此可见，学会问问题，是使用AI非常重要的能力。

3、关于AI幻觉

AI在历史事件上出现幻觉是在所难免的。CHatGPT某版本大约有1750亿个参数。我算了一下，大体上相当于20万本红楼梦的信息量。互联网上的信息有多少呢？我查了一下，很快会有1YB。两者大概相差12个数量级。这意味着什么呢？互联网上的信息，大模型的参数往往是记不住的。我问了DS，DS也说大模型没有传统意义上的记忆。所以，如果没有联网，AI对特定历史事件（而不是规律、知识）的描述其实是猜出来的，就很容易出现幻觉。于是，我做了个试验，在不联网的前提下，问豆包和DS，《管中窥道：技术创新的观念与方法》的作者是谁？这本书是我写的，但两个AI全部答错。为什么呢？由此可见，历史事件往往是逻辑推导不出来的、也是概率算不出来的。但是，如果联网后再问，答案就是对的了。

ooolinux

用AI学习AI 有点绕