首頁 > AI資訊 > 最新資訊 > 上海交大出臺AI使用規范,將定期更新人工智能應用禁止清單

上海交大出臺AI使用規范,將定期更新人工智能應用禁止清單

新火種    2025-04-17

近日,上海交通大學出臺新規,規范教育教學中對人工智能(AI)的使用。新規將高等教育教學領域的人工智能應用劃分為四種類型:禁止使用、有限使用、鼓勵使用、開放使用。對于教師和學生在教育教學中使用人工智能出現違規的現象,學校將追責。

上海交通大學從去年起推動“AI+教育教學”。此次出臺的新規,將對老師和學生在教育教學中使用AI設置邊界,希望打造人工智能與人類智慧在“師-生-機-環”四元互動教育教學新生態,同時防范技術失能、教育分化、算法歧視、隱私泄露及數據安全、信息安全威脅等風險。

學校表示,鼓勵師生在遵守國內外人工智能法律法規的前提下,探索人工智能在高等教育教學領域的使用方式,且AI使用必須圍繞“讓每個學生更優秀”的育人理念。此外,學校還將定期評估師生對工具的使用情況,確保技術應用輔助教學目標,避免教學任務的完全替代或片面依賴。

人工智能使用設四種類型

上海交大此次的新規,將高等教育教學領域的人工智能應用劃分為四種類型:禁止使用、有限使用、鼓勵使用、開放使用。

對于高風險的人工智能應用場景,即那些存在高風險,或者師生經充分討論一致反對的場景或環節,學校將推“人工智能應用禁止清單”。清單將通過校內平臺及時更新、透明公開。

對于存在一定風險的場景,將結合風險評估和師生討論意見,進入有限使用的名單,設置約束條件,并定期開展再評估。這些場景包括對師生個人隱私有潛在威脅、對教學目標和學習效果可能造成的負面影響、有可能不符合相關法律法規及學校規范要求的。

而對于風險較低,或師生經討論達成較高共識,學校將鼓勵使用。同時,鼓勵使用的人工智能工具或技術需通過學校備案流程,確保其符合教育教學目標、倫理規范和技術可靠性要求。

至于那些趨近零風險,或師生經討論一致認為適宜廣泛使用的場景或環節的AI技術,學校將開放使用。新規明確,這類人工智能技術應具備較高的普適性和公平性,能夠廣泛惠及師生,并通過學校平臺向全校推廣。

此外,對于師生經充分討論后仍存在分歧的場景或環節,可引入仲裁或復議機制。由學校人工智能教育教學改革治理委員會牽頭,結合技術評估、風險分析和教育目標對爭議進行仲裁,形成最終清單。

教師是AI+教學設計的第一責任人

新規明確,鼓勵教師積極探索人工智能賦能教育的可能性,明確人工智能輔助教學授課的原則。教師是AI+教學設計的第一責任人,同樣也必須遵循“禁止使用”“有限使用”“鼓勵使用”“開放使用”四類人工智能技術的原則。對于使用未備案或存在風險的人工智能工具情況,學校可追究相關責任。

學校鼓勵教師在教學材料生產、個性化教學、學習進程跟蹤與評估、師生互動等場景中,合理使用人工智能技術,有效提升教學質量,并且要充分關注學生在人工智能輔助場景中的自主性與獲得感。

同時教師要關注學生差異化需求,避免因技術門檻或資源不均帶來的負面效應。教師對于具體課程中人工智能工具使用范圍、人工智能生成信息引用模板等都必須予以公開說明。

學生必須遵循學術誠信等原則

按照新規,學生應了解人工智能“禁止使用”“有限使用”“鼓勵使用”“開放使用”的具體場景,合理選擇人工智能工具,構建良性人機協同的新常態。

但是學生在課堂學習、作業反饋等環節,必須遵循教學計劃、知識產權等法律法規、學術誠信要求。若有違規行為,學校將追究相關責任。

學校為學生使用人工智能工具,提升人工智能素養,提供各類課程和學習資源,同時鼓勵學生主動參與高等教育領域的人工智能創新改革,自主參與人工智能學術研討與公益活動,探索多學科“AI+”范式,為校內人工智能創新應用積極獻策。

學校還成立人工智能教育教學改革治理委員會,涵蓋“師-生-機-環”各領域代表,明確各方在技術評估、倫理審查、師生反饋整合等方面的職責分工,確保治理委員會高效運作。在各一線教育教學單位成立治理小組,鼓勵師生針對人工智能應用過程中的爭議問題,展開“師-生-機-環”大討論,在相互評議中促進集體共識。

相關推薦
免責聲明
本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內容相關的任何行動之前,請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。

熱門文章