2024.5 更新:OpenAI 和 Google 发布的 GPT-4o 和 Astra 令人振奋, 这个网站不再像乌托邦一般遥不可及

观点

我一直都有一些设想,但没有一个完整的总结。OpenAI大力出奇迹,而英伟达又把这样的“大力”往前猛推了一步。虽然现在每个人都可以Chat的方式享用这一奇迹,但忘记是哪一个牛人提到大模型说“聊天只是教育用户的一个手段”,我很是认同,大模型的潜力无限,我们缺少让现有技术改变生活的实际落地应用。

如果能把更多现有技术拿来落地,效果也许比Transformer的提出更为炸裂。不求理论突破,但求便利生活,小到Github上各种让人耳目一新又不很复杂的小应用,大到杨立昆的世界模型概念,都令人兴奋。

每个人潜能的激发点不同,高材生们用学术推着世界前行,但并不是每个人都是高材生。学术之外,高效整合现有资源并应用似乎是更多本土企业的优势所在。

然而,信息差仍然很大,仍然有许多人没能很好地利用已有的应用去降低成本,这本该减少的成本价值又是一个天文数字。写这个乌托邦网站的目的之一,就是尝试在想象中创造需求。

既然人类行为、社会发展的规律能被总结为各种各样的学科,那么人类智能是否只是一系列预测的产物?高效且准确的预测是否代表了智能?

应当指出的是,我并不认同机器会怎样取代人类。我们做的事情并不是为了取代,而是改进,或者说取代的是落后生产力。人的很多需求必须需要有血有肉的人解决,比如劳力士门口开门的人不可能换成机器人。人始终会把机器当机器看,但随着时代的变革,机器的角色也发生了巨变。机器始终在朝着人无法提供之支持的方向发展。假设你在荒郊野岭,一个有电、有信号、有地图的手机给人的支持和旁边的人给的支持就相差很大。

也许机器在组织各种数据时已经习得了许多人类还未总结出的规律,只是用机器自己的方式去描述。虽然我们无法理解机器总结出的规律,但我们可以通过操控它来利用这些未知的规律,比如利用未知的物理准则进行计算,或是像预测天气一样在19年之前预测到疫情的发生,或是重构交通方式让堵车成为历史,或是通过未知规律预测实验结果等等。这,是人类定义的预测,但机器的能力是被人类定义的吗?每一次行为,每一次操作,每一次发展……我们的世界,是否是在物理框架下根据既往运动生成的结果?也许数十年后,“预测”这个词就像GPU中的“G”、马路中的“马”一样与它的实际场景不完全相符了。

机器会借鉴人的思考方式,但终点不会是人。我们可以把人工智能与人类的关系跟飞机与鸟的关系进行类比:我们起初想让机器像鸟儿一样飞翔,但飞机承载的任务却比鸟复杂得多。飞机的翅膀也没有像鸟的翅膀一样上下扇动,但却做到了比上下扇动更符合我们要求的效果。它们都为飞行而生,但飞机有它独特的飞行方式,不必非要像鸟儿一样,人们也不会把坐飞机想象成骑在鸟背上。

人类对于飞机的安全要求比鸟的要求要严格得多,人工智能亦是如此。假如一个人做了一些不道德的事情,我们也许就觉得这人怎么怎么样,然后不理他就是。但如果是一个智能体做出了不道德的事情,人们也许会发出人类末日要到了、应当马上停止开发之类的感慨。

在安全性方面我们对人工智能的要求比人类严苛得多,自然就不能让它完全沿用人类的思考方式。但在这探索的过程中,人类的许多遮羞布也许会被扯下,以往心照不宣的人性弱点将会被AI放大,比如利益、权力、阴谋、两性等老生常谈却又需要人工智能直面的问题。

还没写完,剩下的晚点再写