Open AI 超级对齐前员工
一位前开放人工智能超级联盟员工（Leopold-Aschenbrenner先生）发表了一篇非常令人震惊的博客文章。
“世界上可能只有几百人了解我们现在即将发生的事情，了解事情有多疯狂，并有间接意识。”
超级情报到2028-29年，AGI到2027年。之所以意识到这一点，是因为它突然进入了人类历史上无与伦比的经济增长的过渡阶段（GDP达到30％或以上）和急性风险期（国家间紧张局势迅速加剧）。此外，有人生动地描述了人类历史的真正变化，这是因为智力的迅速崛起，其质量上超过了人工智能中的人类（从几个月到一年，最迟两年）。
将美国经济带入战时体系，制造1亿个 GPU；封锁一切，消灭间谍，躲避中国共产党的全面攻击；疯狂地实现人工智能研究的自动化，在 1 年内实现了 10 年的飞跃，最终管理了 1 亿个 AGI，创造出比最聪明的人工智能系统更聪明的人工智能系统；开发稳定局势和超越敌人所必需的新技术，并迅速重塑美军以整合他们。在应对你以前可能从未经历过的紧张国际局势时。
我认为这篇文章是全人类，更不用说政府了，都应该看到的文章。
似乎有相当大的信心认为，人工智能将首先通过简单地增加数字数（OOM）来实现，这是由于计算资源的扩展（包括除先前训练以外的所有技术，例如RLHF和CoT之后，有效计算量会增加）。
此后，AGI 首次进行专业化和自动化的人工智能研究，有 1 亿自动化研究人员，每人的工作速度都比人类快 100 倍。据估计，这将在2028年之前发生。之后，它被推广到各种科学和技术研究，自动化，机器人不是硬件问题，而只是一个软件问题，在AGI之后的几年中，它以压倒性的速度得到了解决。我们正在迅速陷入人类有史以来最极端的境地。
我们谈论的是投资1万亿美元规模的计算资源培训（表明到2030年这些资源将用于超级情报训练），讨论到2028年使用数千亿美元的培训成本的计划，然后转向国家安全。
由于超级情报发明（核武器和隐形潜艇可以先发制人地消灭）、先发制人的攻击（极端情况下是特种作战部队对人工智能相关设施的袭击）以及中国在向根本不同的世界秩序过渡的过程中迅速感受到国家安全问题的可能性，目前的核威慑体系已经终结。
“想象一下，在不到10年的时间内体验20世纪军事技术的发展会是什么样子。几年后，他们将从马、步枪和战壕过渡到现代坦克部队，再过几年过渡到超音速战斗机和庞大的核武器和洲际弹道导弹大军，再过几年，他们就会转向隐身和精确的状态，可以在不知不觉中击败敌人。这就是我们随着超级智能的出现所面临的情况。一个世纪的军事技术进步将在不到十年的时间内被压缩。超人黑客攻击、机器人军队和成群结队的自主无人机将出现，但更重要的是发明了一种我们仍然无法想象的全新模式，具有破坏力的新型大规模毁灭性武器增加了1000倍（以及新的大规模毁灭性防御武器，例如无法穿透的导弹防御，可以迅速反复颠覆威慑平衡）。”
当前，先进的公司不太在乎国家安全，安全也很笨拙，当弗朗迪亚模型算法在旧金山派对上被窃听或监视时，价值观由专制国家确定，“自由民主半永久性丧失” 的可能性被严肃地指出。有人指出，这种状态是 “精神错乱的”。如果中美两国的优势能够在几年内得到保障，那就太好了，但再过几个月，就无法达成任何结盟协议，人类可能会照原样被摧毁。军事级别以上的安全和对核武器的处理对于AGI相关事项是必要的。
然后，在短短几年内，这一事实将极大地重塑美国政府的奥弗顿窗口，他指出，美国将成为/应该成为 “战时体系”。
这可能是一篇历史性的文章。我在短短几年内经历了这场20世纪的地缘政治热情和人为危机。我们即将进入这样一个时代。他们似乎对人工智能协调持乐观态度，但他们表示，如果没有与中国竞争的余地，它将失败，人类将面临生存风险。开始写一篇我一生中亲自读过的文章，在这篇文章中，我对现实感不太敏感。这是真的吗？
最后，关于人工智能的可行性，“几年前，至少对我来说，我认真对待这些想法，但它们很抽象，仅限于模型和概率估计。现在感觉很真实。我能看见。你可以看到 AGI 是如何构建的。它不再是对人脑规模、理论推断等的估计或假设，基本上可以分辨出集群在哪里训练人工智能、何时建立、所用算法的粗略组合、未解决的问题及其解决方案的路径以及重要人物名单。”它已经写好了，你可以看到它已经很真实了。
这篇文章类似于 Daniel Kokotajlo、Sam Altman 和 John Schulman 在 OpenAI 中经常提到的时间表。换句话说，可以说这非常清楚地描绘了有关Open AI未来的信息。此外，他们之所以对超级对齐持乐观态度，是因为深度学习易于概括等，这是创建独特章节的原因。
你可以理解他们正在努力改变世界和人类历史。这一事实是一篇从各种显而易见的数据（投资趋势、算法改进率、半导体趋势等）中直面现实的文章。
看来只有 “几百人” 将这种现实视为 “态势感知”。
每个人都应该读一读。
situational-awareness.ai
“世界上可能只有几百人了解我们现在即将发生的事情，了解事情有多疯狂，并有间接意识。”
超级情报到2028-29年，AGI到2027年。之所以意识到这一点，是因为它突然进入了人类历史上无与伦比的经济增长的过渡阶段（GDP达到30％或以上）和急性风险期（国家间紧张局势迅速加剧）。此外，有人生动地描述了人类历史的真正变化，这是因为智力的迅速崛起，其质量上超过了人工智能中的人类（从几个月到一年，最迟两年）。
将美国经济带入战时体系，制造1亿个 GPU；封锁一切，消灭间谍，躲避中国共产党的全面攻击；疯狂地实现人工智能研究的自动化，在 1 年内实现了 10 年的飞跃，最终管理了 1 亿个 AGI，创造出比最聪明的人工智能系统更聪明的人工智能系统；开发稳定局势和超越敌人所必需的新技术，并迅速重塑美军以整合他们。在应对你以前可能从未经历过的紧张国际局势时。
我认为这篇文章是全人类，更不用说政府了，都应该看到的文章。
似乎有相当大的信心认为，人工智能将首先通过简单地增加数字数（OOM）来实现，这是由于计算资源的扩展（包括除先前训练以外的所有技术，例如RLHF和CoT之后，有效计算量会增加）。
此后，AGI 首次进行专业化和自动化的人工智能研究，有 1 亿自动化研究人员，每人的工作速度都比人类快 100 倍。据估计，这将在2028年之前发生。之后，它被推广到各种科学和技术研究，自动化，机器人不是硬件问题，而只是一个软件问题，在AGI之后的几年中，它以压倒性的速度得到了解决。我们正在迅速陷入人类有史以来最极端的境地。
我们谈论的是投资1万亿美元规模的计算资源培训（表明到2030年这些资源将用于超级情报训练），讨论到2028年使用数千亿美元的培训成本的计划，然后转向国家安全。
由于超级情报发明（核武器和隐形潜艇可以先发制人地消灭）、先发制人的攻击（极端情况下是特种作战部队对人工智能相关设施的袭击）以及中国在向根本不同的世界秩序过渡的过程中迅速感受到国家安全问题的可能性，目前的核威慑体系已经终结。
“想象一下，在不到10年的时间内体验20世纪军事技术的发展会是什么样子。几年后，他们将从马、步枪和战壕过渡到现代坦克部队，再过几年过渡到超音速战斗机和庞大的核武器和洲际弹道导弹大军，再过几年，他们就会转向隐身和精确的状态，可以在不知不觉中击败敌人。这就是我们随着超级智能的出现所面临的情况。一个世纪的军事技术进步将在不到十年的时间内被压缩。超人黑客攻击、机器人军队和成群结队的自主无人机将出现，但更重要的是发明了一种我们仍然无法想象的全新模式，具有破坏力的新型大规模毁灭性武器增加了1000倍（以及新的大规模毁灭性防御武器，例如无法穿透的导弹防御，可以迅速反复颠覆威慑平衡）。”
当前，先进的公司不太在乎国家安全，安全也很笨拙，当弗朗迪亚模型算法在旧金山派对上被窃听或监视时，价值观由专制国家确定，“自由民主半永久性丧失” 的可能性被严肃地指出。有人指出，这种状态是 “精神错乱的”。如果中美两国的优势能够在几年内得到保障，那就太好了，但再过几个月，就无法达成任何结盟协议，人类可能会照原样被摧毁。军事级别以上的安全和对核武器的处理对于AGI相关事项是必要的。
然后，在短短几年内，这一事实将极大地重塑美国政府的奥弗顿窗口，他指出，美国将成为/应该成为 “战时体系”。
这可能是一篇历史性的文章。我在短短几年内经历了这场20世纪的地缘政治热情和人为危机。我们即将进入这样一个时代。他们似乎对人工智能协调持乐观态度，但他们表示，如果没有与中国竞争的余地，它将失败，人类将面临生存风险。开始写一篇我一生中亲自读过的文章，在这篇文章中，我对现实感不太敏感。这是真的吗？
最后，关于人工智能的可行性，“几年前，至少对我来说，我认真对待这些想法，但它们很抽象，仅限于模型和概率估计。现在感觉很真实。我能看见。你可以看到 AGI 是如何构建的。它不再是对人脑规模、理论推断等的估计或假设，基本上可以分辨出集群在哪里训练人工智能、何时建立、所用算法的粗略组合、未解决的问题及其解决方案的路径以及重要人物名单。”它已经写好了，你可以看到它已经很真实了。
这篇文章类似于 Daniel Kokotajlo、Sam Altman 和 John Schulman 在 OpenAI 中经常提到的时间表。换句话说，可以说这非常清楚地描绘了有关Open AI未来的信息。此外，他们之所以对超级对齐持乐观态度，是因为深度学习易于概括等，这是创建独特章节的原因。
你可以理解他们正在努力改变世界和人类历史。这一事实是一篇从各种显而易见的数据（投资趋势、算法改进率、半导体趋势等）中直面现实的文章。
看来只有 “几百人” 将这种现实视为 “态势感知”。
每个人都应该读一读。
situational-awareness.ai
免责声明：社区由Moomoo Technologies Inc.提供，仅用于教育目的。
更多信息
评论
登录发表评论
KIMIHIKO 楼主 : 顺便说一句，如果态势感知属实，则可以从表格中看出，英伟达和微软的股价未来将多次上涨。任何经常读这篇文章的人都会注意到它。