開放 AI 超級對齊元社員
前一位開放 AI 超級聯盟員工（萊奧波德-阿申布倫納先生）發布了一篇非常令人震驚的博客文章。
「世界上可能只有幾百個人了解現在即將發生我們的事情，了解事情有多瘋狂，並且具有情況意識。」
在 2028-29 年之前的超級智能，並在 2027 年之前的 AGI。實現這種情況的原因是，它突然進入了一個過渡階段（GDP 為 30％ 或更高）和急性風險期（國家之間的緊張局勢迅速上升），經濟增長之後在人類歷史上無與倫比的經濟增長。此外，人類歷史可以明顯地發生，由於智能迅速出現，這種智能性超越人類的 AGI（從幾個月到 1 年，最晚 2 年），人類歷史實際上發生了變化。
將美國經濟帶入戰時系統，製造 100 萬 GPU；阻擋一切、消除間諜，避免中共產黨的全面攻擊；激烈自動化 AI 研究，1 年內邁出 10 年前進，最終管理一百萬個 AGI，創造比最聰明人類更聰明的 AI 系統；開發穩定情況並搶先敵人的新技術，迅速重塑美國軍事整合它們。在處理您可能從未經歷過的緊張國際情況時。
我覺得這篇文章是全人類，更不用說政府，應該看到的文章。
看來，由於計算資源的擴展（包括 RLHF 和 CoT 除先前培訓以外的所有技術以外的所有技術之後，除了先前培訓以外的所有技術後，增加了有效計算量（如 RLHF 和 CoT），首先通過增加 AGI 可以獲得很大的信心。
之後，AGI 首次專門化和自動化的 AI 研究，自動化研究人員有 1 億，每個人工作速度比人類快 100 倍。據估計，這將在 2028 年發生。之後，它被廣泛化到各種科技研究和自動化，機器人不是一個硬件問題，而只是一個軟件問題，在 AGI 後的幾年中以超快的速度解決。我們正在迅速陷入人類有史以來面臨的最極端情況。
我們談論投資於 1 萬億美元的規模的培訓計算資源（表示它們將在 2030 年使用於超智能培訓），討論到 2028 年前使用數十億美元的培訓成本的計劃，然後轉向國家安全。
由於超智能發明（核武器和潛水艇可以預先中和），預防攻擊（極端是特種行動部隊對 AI 相關設施的攻擊）以及中國發生戰爭的可能性（在轉變基本不同的世界秩序過程中迅速感受到國家安全問題），現時核阻止系統的終結。
「想想像在不到 10 年內體驗 20 世紀軍事技術的發展會是什麼感覺。幾年後，他們將從馬匹和步槍和戰溝轉為現代坦克部隊，幾年後轉變為超音速戰鬥機和大型核武器和洲際彈導彈軍隊，而幾年後，他們會轉向隱形和精確度，在他們甚至不知道之前擊敗敵人。這就是我們在超智能的出現時面臨的情況。一個世紀的軍事技術進步將在不到十年內壓縮。超人類黑客、機器人軍隊和一群可以中和敵人大部分軍事力量的自動無人機將出現，但更重要的是發明了一個我們仍然無法想像的全新模式，新的大規模毀滅武器具有破壞力量的破壞力量增加了 1000 倍（以及新的大規模毀滅防禦武器，如不可穿透的導彈防禦，快速反覆顛覆驅動平衡）。」
目前先進的公司不太關心國家安全，而且安全是笨重的，當弗朗迪亞模型算法在舊金山黨派對被偷聽或監視時，價值是由獨裁國家固定的，而且嚴重指出了「半永久失去自由民主」的可能性。有人指出，這種狀態是「瘋狂」。如果中美的優勢能夠保證幾年，那就是不錯的，但在幾個月內，沒有協調才能努力，人類可能就像現在一樣被破壞。安全性高於軍事水平，以及核武器的處理是 AGI 相關的事宜必要。
然後，在短短幾年內，這一事實將大幅重塑美國政府的奧弗頓窗口，他指出美國成為/應該成為一個「戰時系統」。
這可能是一篇歷史性的文章。我在短短幾年內經歷了 20 世紀的地緣政治激烈和人為危機。我們即將進入這樣的時代。他們看起來對人工智能的一致性很樂觀，但他們說，如果與中國沒有競爭空間，它將失敗，人類將冒生存的危險很嚴重。開始一篇我一生中個人閱讀過的文章，在那裡我沒有感受到這麼多的現實感。這是真的嗎？
最後，關於 AGI 可行性，「幾年前，至少對我來說，我認真地對待這些想法，但它們是抽象的，並且僅限於模型和概率估計中。現在感覺非常真實。我可以看到它。您可以看到 AGI 是如何構建的。它不再是對人類大腦的大小、理論外判等的估計或假設，基本上是可以告訴集群的訓練 AGI 在哪裡以及它們建立的時間，使用的算法的粗略組合、未解決的問題和解決方案的路徑，以及重要人物的清單。」這是寫的，你可以看到它已經是非常真實的。
本文類似於丹尼爾·科科塔伊洛、山姆·奧特曼和約翰·舒爾曼在 OpenAI 中經常提到的時間軸。換句話說，可以說，這非常清楚地描繪了有關開放 AI 中未來的信息。此外，他們對超級對齊樂觀的原因是深度學習很容易概括化等，作為創建一個獨特的部分的原因。
您可以理解他們正在嘗試改變世界和人類歷史。這個事實是一篇從各種明顯的數據（投資趨勢，算法改進率，半導體趨勢等）面對現實的文章。
似乎只有「幾百人」認識這個現實為「情況意識」。
每個人都應該閱讀它。
situational-awareness.ai
「世界上可能只有幾百個人了解現在即將發生我們的事情，了解事情有多瘋狂，並且具有情況意識。」
在 2028-29 年之前的超級智能，並在 2027 年之前的 AGI。實現這種情況的原因是，它突然進入了一個過渡階段（GDP 為 30％ 或更高）和急性風險期（國家之間的緊張局勢迅速上升），經濟增長之後在人類歷史上無與倫比的經濟增長。此外，人類歷史可以明顯地發生，由於智能迅速出現，這種智能性超越人類的 AGI（從幾個月到 1 年，最晚 2 年），人類歷史實際上發生了變化。
將美國經濟帶入戰時系統，製造 100 萬 GPU；阻擋一切、消除間諜，避免中共產黨的全面攻擊；激烈自動化 AI 研究，1 年內邁出 10 年前進，最終管理一百萬個 AGI，創造比最聰明人類更聰明的 AI 系統；開發穩定情況並搶先敵人的新技術，迅速重塑美國軍事整合它們。在處理您可能從未經歷過的緊張國際情況時。
我覺得這篇文章是全人類，更不用說政府，應該看到的文章。
看來，由於計算資源的擴展（包括 RLHF 和 CoT 除先前培訓以外的所有技術以外的所有技術之後，除了先前培訓以外的所有技術後，增加了有效計算量（如 RLHF 和 CoT），首先通過增加 AGI 可以獲得很大的信心。
之後，AGI 首次專門化和自動化的 AI 研究，自動化研究人員有 1 億，每個人工作速度比人類快 100 倍。據估計，這將在 2028 年發生。之後，它被廣泛化到各種科技研究和自動化，機器人不是一個硬件問題，而只是一個軟件問題，在 AGI 後的幾年中以超快的速度解決。我們正在迅速陷入人類有史以來面臨的最極端情況。
我們談論投資於 1 萬億美元的規模的培訓計算資源（表示它們將在 2030 年使用於超智能培訓），討論到 2028 年前使用數十億美元的培訓成本的計劃，然後轉向國家安全。
由於超智能發明（核武器和潛水艇可以預先中和），預防攻擊（極端是特種行動部隊對 AI 相關設施的攻擊）以及中國發生戰爭的可能性（在轉變基本不同的世界秩序過程中迅速感受到國家安全問題），現時核阻止系統的終結。
「想想像在不到 10 年內體驗 20 世紀軍事技術的發展會是什麼感覺。幾年後，他們將從馬匹和步槍和戰溝轉為現代坦克部隊，幾年後轉變為超音速戰鬥機和大型核武器和洲際彈導彈軍隊，而幾年後，他們會轉向隱形和精確度，在他們甚至不知道之前擊敗敵人。這就是我們在超智能的出現時面臨的情況。一個世紀的軍事技術進步將在不到十年內壓縮。超人類黑客、機器人軍隊和一群可以中和敵人大部分軍事力量的自動無人機將出現，但更重要的是發明了一個我們仍然無法想像的全新模式，新的大規模毀滅武器具有破壞力量的破壞力量增加了 1000 倍（以及新的大規模毀滅防禦武器，如不可穿透的導彈防禦，快速反覆顛覆驅動平衡）。」
目前先進的公司不太關心國家安全，而且安全是笨重的，當弗朗迪亞模型算法在舊金山黨派對被偷聽或監視時，價值是由獨裁國家固定的，而且嚴重指出了「半永久失去自由民主」的可能性。有人指出，這種狀態是「瘋狂」。如果中美的優勢能夠保證幾年，那就是不錯的，但在幾個月內，沒有協調才能努力，人類可能就像現在一樣被破壞。安全性高於軍事水平，以及核武器的處理是 AGI 相關的事宜必要。
然後，在短短幾年內，這一事實將大幅重塑美國政府的奧弗頓窗口，他指出美國成為/應該成為一個「戰時系統」。
這可能是一篇歷史性的文章。我在短短幾年內經歷了 20 世紀的地緣政治激烈和人為危機。我們即將進入這樣的時代。他們看起來對人工智能的一致性很樂觀，但他們說，如果與中國沒有競爭空間，它將失敗，人類將冒生存的危險很嚴重。開始一篇我一生中個人閱讀過的文章，在那裡我沒有感受到這麼多的現實感。這是真的嗎？
最後，關於 AGI 可行性，「幾年前，至少對我來說，我認真地對待這些想法，但它們是抽象的，並且僅限於模型和概率估計中。現在感覺非常真實。我可以看到它。您可以看到 AGI 是如何構建的。它不再是對人類大腦的大小、理論外判等的估計或假設，基本上是可以告訴集群的訓練 AGI 在哪裡以及它們建立的時間，使用的算法的粗略組合、未解決的問題和解決方案的路徑，以及重要人物的清單。」這是寫的，你可以看到它已經是非常真實的。
本文類似於丹尼爾·科科塔伊洛、山姆·奧特曼和約翰·舒爾曼在 OpenAI 中經常提到的時間軸。換句話說，可以說，這非常清楚地描繪了有關開放 AI 中未來的信息。此外，他們對超級對齊樂觀的原因是深度學習很容易概括化等，作為創建一個獨特的部分的原因。
您可以理解他們正在嘗試改變世界和人類歷史。這個事實是一篇從各種明顯的數據（投資趨勢，算法改進率，半導體趨勢等）面對現實的文章。
似乎只有「幾百人」認識這個現實為「情況意識」。
每個人都應該閱讀它。
situational-awareness.ai
免責聲明：社區由Moomoo Technologies Inc.提供，僅用於教育目的。
更多信息
評論
登錄發表評論
KIMIHIKO 樓主 : 順便說一句，如果情況意識是真的，則可以從表中看到並提到，Nvidia 和微軟股價將在未來會上漲多倍。任何經常閱讀這篇文章的人都會注意到它。