財(cái)富中文網(wǎng)
2023-11-21 
人工智能亟需加強(qiáng)監(jiān)管
圖片來源：GROVE PASHLEY—GETTY IMAGES
安迪?泰勒的目標(biāo)既適度又雄心勃勃：首次將人工智能引入空中交通管制。作為一名職業(yè)空中交通管制員，泰勒很快就意識到了計(jì)算機(jī)視覺技術(shù)的改進(jìn)可以為他的職業(yè)帶來潛在的好處。
示例：每次飛機(jī)離開跑道時(shí)，空中交通管制員都必須進(jìn)行標(biāo)記，并通知下一架飛機(jī)跑道可以使用。這項(xiàng)簡單、重復(fù)的任務(wù)占據(jù)了管制員所有的注意力，使其無法觀察到停機(jī)坪上發(fā)生的其他任何情況。即使稍有耽擱，在一天中累積起來所產(chǎn)生的影響也不能小覷，尤其是在泰勒工作的倫敦希思羅機(jī)場，該機(jī)場的航班預(yù)訂從早上六點(diǎn)到晚上11點(diǎn)30分從不間斷。
如果人工智能系統(tǒng)能夠自動處理此項(xiàng)工作，會怎么樣？NATS是英國唯一的空中交通管制服務(wù)提供商，泰勒現(xiàn)在帶頭進(jìn)行NATS的開創(chuàng)性工作，以回答該問題，并采用人工智能來承擔(dān)這項(xiàng)工作以及相關(guān)的空中交通管制任務(wù)。
他創(chuàng)新路上的最大障礙是什么？人工智能航空安全法規(guī)尚未成型。
缺乏法規(guī)可能會阻礙像泰勒這樣的創(chuàng)新者，有些人可能會認(rèn)為這種說法有悖常理。畢竟，通常情況下，無阻礙創(chuàng)新的支持者與那些擔(dān)心不受約束的競爭會造成社會危害的人們在圍繞監(jiān)管進(jìn)行爭論時(shí)一直都站在對立面。
特朗普政府加入了前一陣營，主張各機(jī)構(gòu)對新法規(guī)采取“低干預(yù)”的手段，其認(rèn)為新的法規(guī)“不必要且會阻礙人工智能創(chuàng)新和發(fā)展”。
作為一個(gè)日益強(qiáng)大的政治主體，許多硅谷的精英們也同意這種觀點(diǎn)，其對監(jiān)管的厭惡眾所周知。
但是，盡管不干預(yù)的手段可能會促進(jìn)互聯(lián)網(wǎng)、航空和其他行業(yè)的創(chuàng)新，但它可能會成為進(jìn)步的障礙。我在加利福尼亞大學(xué)伯克利分校（UC Berkeley）的人工智能安全倡議研究中心（AI Security Initiative）的報(bào)告中作出了解釋。部分問題在于，航空安全法規(guī)范圍太廣，且與人工智能情況嚴(yán)重不符，因此需要對現(xiàn)有規(guī)則進(jìn)行大量修訂和補(bǔ)充。
例如，飛機(jī)認(rèn)證過程遵循基于邏輯的方法，其中每一個(gè)可能的輸入和輸出都有人關(guān)注并對其進(jìn)行分析。但是這種方法通常對人工智能模型不起作用，其中許多模型的反應(yīng)不同，甚至對輸入的輕微擾動反應(yīng)也不同，從而產(chǎn)生了幾乎無限量的結(jié)果需要考慮。
應(yīng)對這一挑戰(zhàn)不僅僅是修改現(xiàn)有監(jiān)管語言的問題：它需要人們進(jìn)行新的技術(shù)研究，構(gòu)建行為可預(yù)測和可解釋的人工智能系統(tǒng)，以及制定新的技術(shù)標(biāo)準(zhǔn)來對標(biāo)安全性和其他性能標(biāo)準(zhǔn)。在制定這些標(biāo)準(zhǔn)和法規(guī)之前，企業(yè)必須完全從零開始，為人工智能應(yīng)用程序構(gòu)建安全案例。即使對于像NATS這樣的開路先鋒企業(yè)來說，這也是一項(xiàng)艱巨的任務(wù)。
“這絕對是個(gè)挑戰(zhàn)，”泰勒今年早些時(shí)候告訴我，“因?yàn)闆]有指南或要求，我沒辦法指著某個(gè)指南或要求說，‘我遵循的就是這個(gè)要求。’”
一個(gè)更深層次的問題是，空中交通管制企業(yè)以及波音公司和空中客車公司等制造商明白，制定人工智能新規(guī)則不可避免。雖然他們渴望獲得人工智能帶來的成本和安全方面的好處，但可以理解的是，它們中大多數(shù)不愿意進(jìn)行重大投資，因?yàn)樗麄儧]有信心，能夠保證由人工智能產(chǎn)生的產(chǎn)品將符合未來的法規(guī)。
其結(jié)果可能是采用人工智能的速度大幅放緩：如果監(jiān)管機(jī)構(gòu)無法獲得更多資源以及白宮不施加強(qiáng)有力的領(lǐng)導(dǎo)，設(shè)定標(biāo)準(zhǔn)和制定符合人工智能的法規(guī)的過程需要花費(fèi)幾年甚至幾十年的時(shí)間。
即將上任的拜登政府準(zhǔn)備進(jìn)行強(qiáng)有力的領(lǐng)導(dǎo)，這與特朗普政府“治理人工智能”所采取的不干預(yù)手段形成了鮮明對比。
在影響拜登政府對待人工智能監(jiān)管的態(tài)度方面，商界領(lǐng)袖和技術(shù)專家可以發(fā)揮關(guān)鍵作用。他們首先可能鼓勵(lì)政府優(yōu)先考慮進(jìn)行和樹立與支持航空業(yè)和其他行業(yè)創(chuàng)新的人工智能有關(guān)的安全研究和監(jiān)管框架。或者，他們可以發(fā)揮自己的專長：在私營部門開發(fā)原型解決方案（例如，見OpenAI關(guān)于人工智能治理的監(jiān)管市場提案）。
如果他們的努力取得成功，安迪?泰勒和其他企業(yè)家就可以放開拳腳，在從航空到醫(yī)療保健再到軍事等安全至上的行業(yè)中進(jìn)行創(chuàng)新。如果未能取得成功，NATS等少數(shù)企業(yè)仍將嘗試在這些行業(yè)開發(fā)新的人工智能應(yīng)用程序。但這并不容易，而且會增加發(fā)生事故的風(fēng)險(xiǎn)。人工智能的潛在好處——改進(jìn)的醫(yī)療診斷、經(jīng)濟(jì)適用的城市空氣流動性等等——在技術(shù)上將仍然可行，但總是要幾年時(shí)間。
因此，支持創(chuàng)新的商業(yè)領(lǐng)袖和技術(shù)專家應(yīng)該減少對新的法規(guī)會使人工智能發(fā)展減緩的擔(dān)心，而是努力制定加快發(fā)展所需的智能法規(guī)。（財(cái)富中文網(wǎng)）
威爾?亨特是喬治敦大學(xué)安全與新興技術(shù)中心（Georgetown University’s Center for Security and Emerging Technology）的研究分析師以及加州大學(xué)伯克利分校（University of California at Berkeley）的政治學(xué)在讀博士生。他與別人合作編寫了《華爾街日報(bào)》上的科技政策社評。先前，他曾是加州大學(xué)伯克利分校人工智能安全倡議研究中心的研究生研究員。
翻譯：曉田
審校：汪皓
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
