新火種
2023-10-27 
AI產(chǎn)業(yè)方興未艾治理如何邁前一步？
以生成式人工智能為代表的人工智能快速發(fā)展，帶來新一輪全球發(fā)展變革。來自全球各地的互聯(lián)網(wǎng)企業(yè)和科技公司紛紛加碼人工智能，以期在未來發(fā)展變局中搶占先機(jī)?，F(xiàn)在以及不遠(yuǎn)的未來，如何搶先布局產(chǎn)業(yè)落地，成為人工智能發(fā)展的關(guān)鍵。
與此同時，人工智能治理也提上日程。相較于其他產(chǎn)業(yè)，人工智能無法真正實(shí)現(xiàn)零風(fēng)險，而需達(dá)到一個各方面綜合治理平衡的狀態(tài)；同時產(chǎn)業(yè)上下游聯(lián)系愈發(fā)緊密，產(chǎn)業(yè)鏈一榮俱榮、一損俱損。針對如此特征，AI治理如何切入？近日，由北京理工大學(xué)法學(xué)院主辦的第六屆智能科技法治論壇在北京舉行，與會專家就人工智能相關(guān)問題展開討論。
AI產(chǎn)業(yè)鏈榮辱與共
以生成式人工智能為代表的人工智能引得國內(nèi)多家公司“競折腰”，百模大戰(zhàn)甚至是千模大戰(zhàn)競爭激烈，人工智能產(chǎn)業(yè)給予未來更多的想象空間。
人工智能未來或?qū)⒊蔀榛A(chǔ)設(shè)施從而賦能其他產(chǎn)業(yè)發(fā)展?！艾F(xiàn)在的人工智能產(chǎn)業(yè)，經(jīng)過百模大戰(zhàn)競爭，形成了一定的行業(yè)領(lǐng)先優(yōu)勢，或者是形成了一定的產(chǎn)業(yè)規(guī)模，市場份額確定了之后，這種深層次的AI它一定也是具有一個公共服務(wù)的基礎(chǔ)設(shè)施?！敝袊ù髮W(xué)數(shù)字法治研究院教授張凌寒在發(fā)言時說道。
不僅如此，北京師范大學(xué)法學(xué)院教授汪慶華提出，人工智能還具有數(shù)字基礎(chǔ)設(shè)施的屬性。需要注意的是，機(jī)器學(xué)習(xí)中模型是不支持字符串?dāng)?shù)據(jù)的，模型要順利有效地學(xué)習(xí)，必須對字符串?dāng)?shù)據(jù)先數(shù)值化。
特定能力在達(dá)到一定規(guī)模時就會出現(xiàn)“涌現(xiàn)”，是這一輪人工智能發(fā)展過程中的一個顯著特點(diǎn)，何以涌現(xiàn)出現(xiàn)、其中工作機(jī)制如何理解尚不可知，但這并不影響大模型的快速更新迭代及更加智能模型的出現(xiàn)。
汪慶華引用Open AI一位科學(xué)家的觀點(diǎn)稱，大模型現(xiàn)在還不具備的能力，不是它不行（it doesn't work），而是它還沒有（perspective of yet）?？赡苡械哪芰υ诂F(xiàn)有模型之下未達(dá)到，但在未來很快就能到達(dá)。隨著模型的更迭，會不斷有新的洞見涌現(xiàn)。
人工智能一日千里，人工智能治理也提上日常。相比較之前，人工智能治理的難點(diǎn)和痛點(diǎn)如何理解？
當(dāng)前，更加緊密的上下游結(jié)構(gòu)，一榮俱榮、一損俱損，主體責(zé)任如何配適提出現(xiàn)實(shí)挑戰(zhàn)。人工智能產(chǎn)業(yè)鏈主要分為基礎(chǔ)層、技術(shù)層、應(yīng)用層，包含AI芯片、云計(jì)算、生物識別、機(jī)器學(xué)習(xí)、算法理論等多個產(chǎn)業(yè)鏈上下游高精尖的產(chǎn)業(yè)。
“生成式人工智能，使得我們整個人工智能從1.0時代過渡到2.0時代，從原來作坊式的生產(chǎn)、平臺主體擔(dān)任單一主體地位的生產(chǎn)方式，到今天上中下游要密切合作，一榮俱榮，一損俱損?！睂ν饨?jīng)貿(mào)大學(xué)法學(xué)院副教授張欣表示。
人工智能產(chǎn)業(yè)落地中，需要解決一個核心問題：如何保障內(nèi)容安全。值得關(guān)注的是，生成式人工智能的工作原理是通過深度學(xué)習(xí)框架來學(xué)習(xí)大量自然語言和文本數(shù)據(jù)，可以理解為接龍游戲，給出的答案主要基于概率分布。也就是說，即便是使用非常重要的材料，保證訓(xùn)練數(shù)據(jù)百分百準(zhǔn)確，由生成式人工智能最后回答的內(nèi)容也8無法保證完全可控及幻覺消失。
生成式AI如何規(guī)制？
人工智能治理隨著產(chǎn)業(yè)快速發(fā)展而提上日程，具體又該如何著手展開？
中國海洋大學(xué)法學(xué)院教授李晟表示需要關(guān)注三點(diǎn)，一是從產(chǎn)業(yè)發(fā)展角度，關(guān)注到的是國家間的人工智能產(chǎn)業(yè)競爭，不同國家、不同企業(yè)，誰能夠發(fā)展出更具有優(yōu)勢的甚至是人工智能。二是作為一個數(shù)字基礎(chǔ)設(shè)施，所希望實(shí)現(xiàn)的是要有獨(dú)立自主可控的數(shù)據(jù)基礎(chǔ)設(shè)施。三是具體到應(yīng)用層面，也就是公眾接觸層面，如何避免公眾使用過程中產(chǎn)生的各類風(fēng)險成為關(guān)注重點(diǎn)，希望公眾使用的模型能夠提前避免一些應(yīng)用當(dāng)中的問題。
隨著產(chǎn)業(yè)落地化加速，生成式人工智能需要回答一個關(guān)鍵問題：如何保障生成內(nèi)容安全？以及相關(guān)法律責(zé)任該如何劃定？又該如何科學(xué)有效通過法律手段規(guī)范和促進(jìn)新技術(shù)發(fā)展？
工業(yè)和信息化部產(chǎn)業(yè)政策與法規(guī)司法規(guī)處處長楊艷秋表示，堅(jiān)持在法治軌道上推進(jìn)智能科技發(fā)展和監(jiān)管工作，更好發(fā)揮法治固根本、穩(wěn)預(yù)期、利長遠(yuǎn)的保障作用。短期內(nèi)可以考慮通過推動在小范圍法律法規(guī)依法對普及性高、風(fēng)險很大的新技術(shù)、新應(yīng)用進(jìn)行規(guī)定，加強(qiáng)制度登記處理。長遠(yuǎn)來看可以探索研究數(shù)字領(lǐng)域綜合性立法，如風(fēng)險評估等等新型監(jiān)管手段，優(yōu)化對各項(xiàng)數(shù)字技術(shù)的管理，防范智能科技可能帶來的風(fēng)險。
積極推進(jìn)人工智能立法。圍繞新一代人工智能技術(shù)產(chǎn)業(yè)發(fā)展的主要問題，加強(qiáng)人工智能法重點(diǎn)問題立法研究工作，在法治軌道上促進(jìn)人工智能產(chǎn)業(yè)健康有序發(fā)展。
如何治理、選擇什么樣的治理方式？李晟指出，從價值判斷和利益的權(quán)衡來看，甘蔗沒有兩頭甜，針對公眾日常生活中暴露出來的問題需要加強(qiáng)規(guī)則治理，但如果因此導(dǎo)致產(chǎn)業(yè)發(fā)展受限、影響產(chǎn)業(yè)競爭和國家安全，又陷入相對被動的階段。治理時是否能夠提出一種兩全其美的手段需要進(jìn)一步考慮。另一個問題是，分層監(jiān)管如何細(xì)化也需基于價值判斷和利益考量做出。
具體到生成式人工智能來看，與會專家分別提出雙邊規(guī)制、基于產(chǎn)業(yè)鏈的雙邊規(guī)制、分層治理等治理思路。
汪慶華表示，從生成式人工智能產(chǎn)業(yè)發(fā)展的角度，法律規(guī)制應(yīng)當(dāng)是為生成式人工智能設(shè)定護(hù)欄，他提出了雙邊規(guī)制的思路。
具體來看，在輸入端以數(shù)據(jù)法律體系規(guī)制數(shù)據(jù)，大模型上主要關(guān)注數(shù)據(jù)控制者/數(shù)據(jù)處理者的主體責(zé)任。在輸入端適當(dāng)寬松，對于數(shù)據(jù)抓取規(guī)制以民事行政調(diào)節(jié)為主、避免利用刑事手段帶來的寒蟬效應(yīng)，對于已公開的個人信息予以豁免等。在輸出端繼續(xù)原有的內(nèi)容監(jiān)管敏捷規(guī)制、多元規(guī)制、靠前規(guī)制的特點(diǎn)，防范AI帶來的各種內(nèi)容風(fēng)險。
人工智能生成內(nèi)容的監(jiān)管上，基于AI產(chǎn)業(yè)鏈一榮俱榮、一損俱損的特點(diǎn)，張欣認(rèn)為，邁向“模型泛在”的人工智能2.0時代，生成式人工智能的治理應(yīng)遵循敏捷治理與韌性治理并重、精準(zhǔn)治理和參與式治理協(xié)同的原則。同時提出要建立基于產(chǎn)業(yè)價值鏈的治理，未來的生成式人工智能內(nèi)容治理應(yīng)從基于API的模式、基于插件的模式和基于模型垂直部署的模式協(xié)同推進(jìn)。
如何在現(xiàn)有網(wǎng)絡(luò)法律體系中，給予生成式人工智能相關(guān)權(quán)益雙方進(jìn)行權(quán)責(zé)劃分？張凌寒提出分層治理。在她看來，對于生成式人工智能的規(guī)制，應(yīng)構(gòu)建“基礎(chǔ)模型—專業(yè)模型—服務(wù)應(yīng)用”的分層治理體系，在不同的層次適配不同的規(guī)制思路與工具。在基座模型層以發(fā)展為導(dǎo)向，將其作為數(shù)字社會新型基礎(chǔ)設(shè)施設(shè)置法律制度；在專業(yè)模型層以審慎包容為理念，進(jìn)行分級分類并設(shè)置合理避風(fēng)港規(guī)則；在服務(wù)應(yīng)用層實(shí)施敏捷治理，建立合理容錯制度。
（文章來源：21世紀(jì)經(jīng)濟(jì)報道）
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
