其實人對於 AI 太過「超人」的恐懼是一直存在著的。也因為如此，當 OpenAI ChatGPT 從去年底突然爆紅之後，這方面的討論也從來沒有停止過。也許是解鈴還須繫鈴人的概念，OpenAI 近日倒是針對控管 AI 方面的技術開發，有了進一步的解決方案。繼續閱讀 OpenAI 要將 20% 算力用於控管 AI，Superalignment 團隊正式成立報導內文。
▲圖片來源：Neowin
OpenAI 要將 20% 算力用於控管 AI，Superalignment 團隊正式成立
姑且不論 Elon Musk 一邊喊著 AI 好可怕，卻馬上自己搞了一個新 AI 這種神奇的事情（看更多：叫 OpenAI 暫停開發六個月的馬斯克，自己卻創立了新的 AI 公司 X.AI）。其實人對於 AI 太過「超人」的恐懼是一直存在著的。也因為如此，當 OpenAI ChatGPT 從去年底突然爆紅之後，這方面的討論也從來沒有停止過。
也許是解鈴還須繫鈴人的概念（好像也不是這樣講 XD）。總之，OpenAI 近日倒是針對控管 AI 方面的技術開發，有了進一步的解決方案。
無論最終的名稱會叫什麼。OpenAI 認為，智慧方面表現正式超越人類的 AI 人工智慧 superintelligent AI，不意外的話應該在十年之內便會誕生。
而既然前提是這樣的 AI 已經達到遠超過人類智慧的能耐。因此現有透過強化學習以及人類的監管，來到了這種等級的人工智慧面前可能起不到任何作用。所以沒有人能保證未來人工智慧不走歪或甚至是失控導致人類滅絕。但此一同時，這樣強大的人工智慧也有可能解決許多以往無法解決的問題，似乎又是應該要走的方向 – 真的是雙面刃的概念。
▲圖片來源：Pixabay
為了處理這種難解習題。OpenAI 的首席科學家以及創辦人 Ilya Sutskever 與 Jan Leike 攜手建立起一個專門導正 AI 的 Superalignment 團隊。嘗試解決未來人類可能無法即時有效地導正 AI 的問題。將拿出現今 OpenAI 所能取得總算力的 20% 用來開發校正對齊 AI 的相關技術。希望能在未來 4 年針對開發出可擴展的訓練方法、可驗證模型成果並能完成整個校正流程的壓力測試的成果。
選在 ChatGPT 的熱門程度開始下滑的這個時間點，也許 OpenAI 在終於有了一些喘息空間後，開始有餘力開發對應 AI「不走鐘」的未來發展的相關技術。雖然說真的可以超越人類智慧的 AI 到底是不是能夠這麼順利的出現還是未知。不過能夠有多一點準備而不是只埋頭衝刺 AI 技術發展，也的確是件好事。
至於用 20% 算力到底能不能發展出管得住 superintelligent AI 的技術，就真的只能雙手合十祈禱了。
延伸閱讀：
Instagram Threads 串文功能開放使用，Twitter（Elon Musk）鬧脾氣的最佳去處？（使用心得）
