新火種
2023-10-22 
2023智源大會AI安全話題備受關注，《人機對齊》新書首發
眾多AI領域的探索者、實踐者齊聚一堂，分享研究成果、交換實踐經驗，暢敘科技之美，2023北京智源大會近日順利召開，作為人工智能領域綜合性內行盛會，這場閃爍智慧光芒的思想交流，以百場精彩報告研討，共同見證一場關于智能的驚嘆演化。
在AI安全與對齊論壇上，眾多專家學者展開交流，進入大模型時代，如何確保越發強大和通用的人工智能系統安全可控，符合人類意圖和價值觀，是極為重要的一個問題。這一安全問題又被稱為人機對齊（AI alignment）問題，它代表了本世紀人類社會面臨的最緊迫和最有意義的科學挑戰之一。
論壇上「深度學習之父」Geoffrey Hinton、OpenAI創始人Sam Altman和張鈸院士等14位國內外嘉賓圍繞人機對齊、大模型的可同時，與此次論壇議題高度契合的科學作家布萊恩·克里斯汀(Brian Christian)的最新作品--The Alignment Problem，中文版書名：《人機對齊》也在會上正式發布。該書由湖南科學技術出版社引進出版，安遠AI審校。安遠AI創始人謝旻希主持了此次新書發布儀式。
《人機對齊》作者Brian Christian應邀線上發言。在發言中，他首先向讀者與與會嘉賓發來問候。對于新書《人機對齊》的發布他深表榮幸，并期望該書能為中國AI領域活躍且持續的探討作出貢獻。同時對《人機對齊》的主要內容做了簡要介紹：全書共分為三篇，第一篇就當前影響機器學習系統的倫理和安全問題進行了探討，第二篇名為自主，焦點從監督和自監督學習轉移到強化學習，第三篇在監督學習、自監督學習、強化學習的基礎上探討我們如何在現實世界中對齊復雜的AI系統。希望《人機對齊》在國內的發布不僅對研究人員起到幫助，更能有助于我們把自己對于這個領域的熱情傳遞給每一位非專業人士。最后他表示，期待看到本次大會的探討以及中國AI領域的研究將如何促進人就起領域的全球發展。
《人機對齊》
【美】布萊恩·克里斯汀著；唐璐譯
出版社：湖南科學技術出版社
如今的“機器學習”系統已具備非凡能力，能夠在各種場合代替我們看和聽，并代表我們做決定。但是警鐘已經敲響。隨著機器學習飛速發展，人們的擔憂也在與日俱增。如果我們訓練的人工智能（AI）做的事情與我們真正的目的不符，就會引發潛在的風險和倫理問題。研究人員稱之為對齊問題（the alignment problem）。
暢銷書作家布萊恩·克里斯汀用生動的筆調，清晰闡釋了AI與我們息息相關的問題。在書中，我們將認識第一批積極應對對齊問題的學者，了解他們為了避免AI發展的局面失控，付出的卓絕努力和雄心勃勃的計劃。克里斯汀不僅精練地描繪了機器學習的發展史，并且親自深入科研一線同科學家對話，準確呈現了機器學習最前沿的進展。讀者可以清晰認識到，對齊問題研究的成敗，將對人類的未來產生決定性影響。
對齊問題還是一面鏡子，將人類自身的偏見和盲點暴露出來，讓我們看清自己從未闡明的假設和經常自相矛盾的目標。這是一部精彩紛呈的跨學科史詩，不僅審視了人類的科技，也審視了人類的文化，時而讓人沮喪，時而又柳暗花明。
這本書在國外的出版反響熱烈，被微軟首席執行官薩蒂亞·納德拉評為2021年最激勵他的五本書之一，被《紐約時報》評為關于AI關鍵技術和道德問題的best書籍，如作者布萊恩·克里斯汀所言：“希望中國AI領域以及更廣泛的中國讀者也可以讀到這本書，希望對你們而言，這本書是內容豐富、發人深省、鼓舞人心的，不僅對于作為研究人員有幫助，也有助于你們把自己對這個領域的熱情傳遞給生活中的非計算機科學家。”
瀟湘晨報記者周詩浩
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
