“总的来说，①有「AI教父」之稱的約書亞·本吉奧表示，我們正在創造比人類更強大的怪物；②他說，「在我們創造可能以危險方式集中權力的技術之前，我們需要非常小心。」
財聯社10月12日訊（編輯 黃君芝）有「AI教父」之稱的約書亞·本吉奧（Yoshua Bengio）最新警告稱，我們正在創造比人類更強大的怪物（人工智能）。
他在接受採訪時表示：「智慧賦予力量，無論誰控制了這種力量——無論是人類水平還是高於人類水平，都將變得非常非常強大。」
“總的來說，技術會被那些想要更多權力的人所利用，例如他們想要經濟主導地位、軍事主導地位、政治主導地位。因此，在我們創造可能以危險方式集中權力的技術之前，我們需要非常小心。”
對於普通投資者而言，這位學術大佬的知名度或許不及黃仁勳、山姆•阿爾特曼，但他在多層神經網絡技術上貢獻卓著，奠定了其「AI教父」的地位。
60歲的本吉奧是一位加拿大計算機科學家，他致力於神經網絡和深度學習算法的研究。他的開創性工作爲我們今天使用的人工智能模型開闢了道路，例如OpenAI的ChatGPT和Anthropic的Claude。
2018 年，本吉奧與兩位同事——前谷歌副總裁傑弗裏·辛頓（2024 年諾貝爾物理學獎得主）和 Meta首席人工智能科學家楊立昆（Yann LeCun）共同獲得了圖靈獎（有計算界諾貝爾獎之稱）。2022 年，本吉奧成爲全球被引用次數最多的計算機科學家。《時代》雜誌將他評選爲全球100 位最具影響力人物之一。
可以說，如果沒有本吉奧，人工智能可能就不存在了。
儘管幫助發明了這項技術，但本吉奧現在已經成爲人工智能領域的一個謹慎人物。與此同時，投資者們卻對AI領域表現出了極大的熱情，並將相關公司的股價推至高位。例如，人工智能芯片寵兒英偉達的股價今年迄今上漲了約180%，而標普500指數的漲幅僅爲22%。
以下爲本吉奧在最新採訪中的一些觀點：
我們爲什麼要關注人類水平的人工智能？
如果它落入壞人之手，不管這意味着什麼，那將是非常危險的。這些工具可以很快幫助恐怖分子，也可以幫助那些希望摧毀我們民主的國家機構。還有一個問題，許多科學家一直在指出，那就是我們現在訓練它們的方式——我們並不清楚如何才能避免這些系統變得自主（思考和行動），有自己的保護目標，我們可能會失去對這些系統的控制。所以我們可能會創造出比我們更強大的怪物。
OpenAI、Meta、谷歌、亞馬遜，哪個AI巨頭做得對？
在道德方面，我認爲表現最好的公司是Anthropic（其主要投資者包括亞馬遜和谷歌）。但我認爲他們都有偏見，因爲在經濟結構中，他們的生存取決於成爲領先的公司，最好是第一個實現AGI（通用式人工智能）。這意味着一場競賽，一場公司之間的軍備競賽，公共安全很可能是失敗的目標。
Anthropic 發出了很多信號，表明他們非常關心如何避免災難性後果。他們是第一個提出安全政策的公司，承諾如果人工智能最終擁有可能造成危險的能力，他們就會停止這種努力。他們也是唯一支持SB 1047 的公司，與馬斯克的態度一樣。
「SB 1047法案」，全稱「前沿人工智能模型安全創新法案」。該法案是首批要求AI開發人員對其技術造成的任何嚴重損害負責的法案之一。不過，這一AI監管「里程碑」在最後一刻被美國加利福尼亞州州長紐森否決了。
對英偉達等人工智能股票的大幅上漲有何看法？
我認爲非常確定的是長期的發展軌跡。因此，如果你長期投資，這是一個相當安全的賭注。除非我們無法保護公衆……（那麼）後果可能是一切都會崩潰，對吧？要麼是因爲社會普遍反對人工智能，要麼是因爲真正災難性的事情發生了，我們的經濟結構崩潰了。
無論哪種情況，都對投資者不利。所以我認爲，如果投資者夠聰明的話，他們會明白，我們需要謹慎行事，避免可能損害我們整體未來的那種錯誤和災難。
對人工智能芯片競賽的看法？
我認爲芯片顯然正在成爲這個謎題的重要組成部分，當然，它也是一個瓶頸。很可能對大量計算的需求不會隨着各種事件的發生而消失，我可以預見未來幾年的科學進步，因此擁有高端人工智能芯片的能力將具有戰略價值——供應鏈中的所有步驟都將至關重要。現在很少有公司能夠做到這一點，所以我希望看到更多的投資，希望有一點多樣化。
