人工通用智能在哪里？我的祖父的猜测和你一样好

dootbear

英国金融时报：人工通用智能在哪里？我的祖父的猜测和你一样好

1946年，我的祖父以“默里·莱斯特”（Murray Leinster）的笔名发表了一篇科幻小说《一个名叫乔的逻辑》。

在故事中，每个人都拥有一台电脑（一台“逻辑”），连接到一个全球网络，可以执行从银行业务到报纸和视频通话等一切功能。有一天，其中一台逻辑机，乔，开始在网络上对任何请求提供有用的答案：比如发明一种无法探测的毒药，或建议抢劫银行的最佳方式。这引发了恐慌，“检查你的审查电路！”，直到他们弄清楚该拔掉什么。

我们思考计算机已经很长时间了，我们一直在想如何制造“人工智能”，并且想知道这将意味着什么。有一个老笑话说，AI是任何尚未工作的东西，因为一旦它起作用，它就只是软件。计算器能进行超人的数学运算，数据库具有超人的记忆力，但它们不能做其他事情，它们也不理解它们在做什么，就像洗碗机不理解碗盘一样。数据库是超人的，但它们只是软件。但人类确实有一些不同的东西，狗、黑猩猩和章鱼以及许多其他生物在某种程度上也是如此。

AI研究人员称这为“通用智能”。

如果我们能够制造出人工通用智能（AGI），很明显，这将和计算、电力甚至蒸汽一样重要。如今我们可以打印微芯片，但如果你可以打印出与人类相当甚至超过人类水平的数字大脑，并且可以亿计进行呢？至少，这将极大改变我们能够自动化的范围，正如我的祖父和其他一千名科幻作家所指出的，这可能意味着更多：蒸汽机对人类没有意见。

自1946年以来，每隔几十年就有一波认为这可能很接近的兴奋（1970年，AI先驱马文·明斯基（Marvin Minsky）声称我们将在三到八年内拥有人类水平的AGI）。18个月前开始的大型语言模型（LLMs）掀起了另一波此类浪潮。本周，OpenAI和Meta表示他们即将发布可能具有推理和计划能力的新模型。之前认为AGI还有几十年的严肃AI科学家现在认为它可能更接近。

在极端情况下，所谓的“末日论者”认为，AGI可能会从当前研究中自发出现，并且这可能对人类构成威胁。他们呼吁政府采取紧急行动。其中一些来自寻求竞争壁垒的自利公司（“这非常危险，我们正在尽可能快地构建它，但不要让其他人这样做”），但其中很多是真诚的。

然而，对于每一个认为AGI可能接近的专家，还有另一个不这么认为的专家。有些人认为LLMs可能会一直扩展到AGI，而其他人认为我们仍需要未知数量的未知突破。更重要的是，他们都同意我们实际上并不知道。

问题在于，我们没有一个关于通用智能到底是什么的连贯理论模型，也不知道为什么人比狗更擅长它。同样，我们不知道LLMs为什么表现得如此出色，也不知道它们可以提高多少，我们有许多部分的理论，但我们不知道整个系统。我们不能在图表上标出人类和ChatGPT，然后说出他们何时会相遇。

的确，AGI本身是一个思想实验：我们实际上会得到什么样的AGI？它可能扩展到比人类智能高100倍，或者可能更快但并不更聪明。我们可能只能产生不比狗更聪明的AGI。我们不知道。

这就是为什么所有关于AGI的讨论都会转向类比的原因：如果你能将这与核裂变相比，那么你就知道该怎么做。但再次，我们有裂变的理论，而我们没有AGI的理论。因此，我更喜欢的类比是阿波罗计划。我们有重力理论，也有火箭工程的理论。我们知道为什么火箭不会爆炸，为什么它们会上升，以及它们需要走多远。我们在这里没有对应物，我们不知道LLMs为什么有效，它们可以变得多大，或者它们需要走多远。然而，我们继续让它们变得更大，它们似乎确实越来越接近。它们会到达那里吗？也许吧！

那么，对于真实但未知的风险，你更倾向于什么态度？你是担心还是耸肩？你更喜欢哪种思想实验？假设你决定末日论者是对的：你能做什么？技术原则上是公开的。开源模型正在增多，目前，LLMs需要大量昂贵的芯片（英伟达在上一财年销售了475亿美元且无法满足需求），但从十年的角度看，模型将变得更高效，芯片将无处不在。

最终，你无法禁止数学，不管怎样，它都会发生。

然而，默认情况下，这种最新的兴奋将跟随所有其他的AI浪潮，成为“仅仅”更多的软件和更多的自动化。自动化一直带来摩擦性的痛苦，追溯到卢德分子。英国邮政丑闻提醒我们，你不需要AGI就能让软件毁掉人们的生活。LLMs将带来更多的痛苦和更多的丑闻，但生活还将继续。至少，这是我更喜欢的答案。





来源：

https://www.ft.com/content/4cecce94-48a6-4eba-b914-dd23d1e11ac9

Benedict Evans

dootbear

本文要点：

1. 文章讨论了人工通用智能（AGI）的概念及其潜在的影响，指出尽管AGI的开发可能带来与计算、电力或蒸汽机等历史性技术革新相当的变革，但目前对AGI的理解和实现仍充满不确定性。

2. AGI的研究和讨论不仅涉及技术进步的可能性，也触及到对现有科技如大型语言模型（LLMs）的理解不足，以及这些技术在未来可能如何发展或被应用的不确定性。

3. 文章通过对历史上的科技发展进行类比，探讨了人类对AGI潜力的期待与担忧，以及这些技术可能对社会造成的影响，从而反映出对未来技术革新的复杂态度和哲学思考。

这篇文章深入探讨了人工智能的未来发展及其可能带来的社会影响，通过历史和哲学的视角分析了技术发展的不确定性。同时，作者通过科幻小说中的设想和现实世界中的技术发展情况，提出了对人类未来可能面临的技术挑战和道德考量的深刻洞察。

Boxhiller

人类就像一个坐在篝火旁玩耍的傻孩子。

不时地把手伸到火旁取暖，用工具拍打火焰取乐，直到有一天，得意洋洋地发现了一盆汽油，得意洋洋地浇在自己身上，得意洋洋地看着汽油从自己身上一直流淌到篝火中。

Poweregg

Boxhiller 发表于 2024-4-15 07:38
人类就像一个坐在篝火旁玩耍的傻孩子。

不时地把手伸到火旁取暖，用工具拍打火焰取乐，直到有一天，得意 ...

不仅仅是ai
生物科技 化工科技都是如此

xueshuyz

Boxhiller 发表于 2024-4-15 07:38
人类就像一个坐在篝火旁玩耍的傻孩子。

不时地把手伸到火旁取暖，用工具拍打火焰取乐，直到有一天，得意 ...

这也是人类无法停下来的步伐，无法改变的结局。只是说某些事件延缓或者加速了这一进程而已。很明显，人类更喜欢导致这一进程加速的东西而厌弃那些延缓这一进程的理论或实践。

玉堇

人能够想象出来的科技早晚都会实现的。

dootbear

玉堇 发表于 2024-4-15 07:52
人能够想象出来的科技早晚都会实现的。

嗯，很多以前科幻小说里面描写的，现在都实现了。

哭天抢地宝

跟“他们”比起来，华人的卷算个P，“他们”迟早要把整个人类卷没了。

Boxhiller

也好也好，人类本来就是宇宙的癌症。
自我清除之后，宇宙就干净了。

来自北方

昨天看他们讨论，AI参与 做投资股票，投资回报会不会大大的高！
老公在我面前吹牛，他每年的回报率是20几%，估计很快就会被AI打脸！

abcd12345

Boxhiller 发表于 2024-4-15 07:38
人类就像一个坐在篝火旁玩耍的傻孩子。

不时地把手伸到火旁取暖，用工具拍打火焰取乐，直到有一天，得意 ...

这是一个很有意思的故事。然后呢？ 人被烧死了
很想知道 是因为Al呢 还是宇宙让人消失了

陆xun

好神奇！

figtree1

没那么快。

大杨树

现在的AI都是30年前的理论，预计20年内不会有什么突破。
更有可能改变世界的，是量子计算和核聚变发电。

superdigua

大杨树 发表于 2024-4-15 14:53
现在的AI都是30年前的理论，预计20年内不会有什么突破。
更有可能改变世界的，是量子计算和核聚变发电。 ...

说反了