隨著2024年5月21日歐盟理事會(huì)正式批準(zhǔn)歐盟《人工智能法案》（Artificial Intelligence Act，“《AI法案》”）[1]，這部歷時(shí)三年的法案，走完歐盟立法進(jìn)程，并正式生效。該法案被普遍認(rèn)為是全球首部對(duì)人工智能領(lǐng)域進(jìn)行全面監(jiān)管的法律，對(duì)于歐盟乃至世界都具有里程碑意義。

《AI法案》對(duì)進(jìn)入歐盟市場(chǎng)的人工智能（“AI”）系統(tǒng)制定了統(tǒng)一的監(jiān)管規(guī)則，旨在確保在歐盟范圍內(nèi)使用的AI系統(tǒng)的安全性、透明性、可追溯性、可解釋性和非歧視性，減少AI系統(tǒng)對(duì)人權(quán)和社會(huì)秩序的沖擊，同時(shí)鼓勵(lì)A(yù)I領(lǐng)域投資和創(chuàng)新，為AI領(lǐng)域技術(shù)發(fā)展留有空間?！禔I法案》采取了“基于風(fēng)險(xiǎn)”的分級(jí)監(jiān)管方法，對(duì)社會(huì)帶來危害的風(fēng)險(xiǎn)越高，監(jiān)管要求就越嚴(yán)格。

近年來，歐洲已成為中國(guó)企業(yè)的出海戰(zhàn)略高地，電動(dòng)汽車、電池、光伏、智能家居設(shè)備、生物醫(yī)藥、跨境電商、人工智能等領(lǐng)域的中國(guó)企業(yè)紛紛進(jìn)入歐洲市場(chǎng)。2024年歐洲足球錦標(biāo)賽（歐洲杯）13家官方頂級(jí)贊助商中，有5家來自中國(guó)，贊助國(guó)際賽事，是中國(guó)企業(yè)出海浪潮的一個(gè)側(cè)寫[2]。

本文將介紹《AI法案》的主要內(nèi)容，并分析其對(duì)中國(guó)企業(yè)出海的影響，以期對(duì)相關(guān)中國(guó)企業(yè)在歐盟投資布局提供參考。

一、《AI法案》的主要內(nèi)容

根據(jù)《AI法案》，AI系統(tǒng)是指基于機(jī)器系統(tǒng)，能以不同程度自主運(yùn)行，在部署后可能表現(xiàn)出適應(yīng)性，并且為了明確或隱含的目標(biāo)，根據(jù)輸入來推斷如何生成可能影響物理或虛擬環(huán)境的輸出，如預(yù)測(cè)、內(nèi)容、建議或決定[3]，廣泛涵蓋各類AI。

但是，《AI法案》也規(guī)定了一些例外情形，包括：（1）不適用于專門為軍事、國(guó)防或國(guó)家安全目的而投放市場(chǎng)、提供服務(wù)的AI系統(tǒng)[4]；（2）不適用于專為科學(xué)研究和開發(fā)目的而開發(fā)和提供服務(wù)的AI系統(tǒng)和模型，包括其輸出[5]；（3）不適用于處于研究、測(cè)試和開發(fā)階段，尚未投放市場(chǎng)或提供服務(wù)的AI系統(tǒng)或模型[6]；以及（4）不適用于根據(jù)免費(fèi)開源許可發(fā)布的低風(fēng)險(xiǎn)AI系統(tǒng)[7]。

2. 適用主體

《AI法案》適用于AI產(chǎn)業(yè)鏈上的各類主體，主要包括AI系統(tǒng)提供者（provider）、部署者（deployer）、進(jìn)口商（importer）和分銷商（distributor）。

AI系統(tǒng)提供者是指開發(fā)AI系統(tǒng)或通用AI模型，或擁有AI系統(tǒng)或通用AI模型，并以自己的名義或商標(biāo)在歐盟市場(chǎng)投放（指首次提供，下同）或在歐盟市場(chǎng)提供服務(wù)的主體，不論AI系統(tǒng)是否收費(fèi)[10]。在特定情形下，部署者、進(jìn)口商和分銷商將被視為高風(fēng)險(xiǎn)AI系統(tǒng)的提供者，包括：（1）在已投放市場(chǎng)或提供服務(wù)的高風(fēng)險(xiǎn)AI系統(tǒng)上冠以自己的名稱或商標(biāo)；（2）對(duì)已投放市場(chǎng)或提供服務(wù)的高風(fēng)險(xiǎn)AI系統(tǒng)進(jìn)行實(shí)質(zhì)性修改；或（3）修改未被歸類為高風(fēng)險(xiǎn)AI系統(tǒng)的預(yù)期目的，導(dǎo)致該AI系統(tǒng)被歸類為高風(fēng)險(xiǎn)AI系統(tǒng)[11]。另外，對(duì)于高風(fēng)險(xiǎn)AI系統(tǒng)，如果其作為安全組件附加于特定產(chǎn)品之上，產(chǎn)品的生產(chǎn)者將被視為AI系統(tǒng)提供者[12]。AI系統(tǒng)提供者是《AI法案》下對(duì)AI系統(tǒng)的安全性負(fù)責(zé)的核心主體，需確保所提供的AI系統(tǒng)滿足《AI法案》的要求。

AI系統(tǒng)部署者是指使用AI系統(tǒng)的主體，但不包括非職業(yè)活動(dòng)使用AI系統(tǒng)的個(gè)人[13]。AI系統(tǒng)部署者的責(zé)任側(cè)重于保障AI系統(tǒng)在使用過程中的安全可靠，包括根據(jù)系統(tǒng)所附使用說明使用高風(fēng)險(xiǎn)AI系統(tǒng)[14]，在使用高風(fēng)險(xiǎn)AI系統(tǒng)時(shí)應(yīng)指派有能力的自然人進(jìn)行人工監(jiān)督[15]等。

AI系統(tǒng)進(jìn)口商是指在歐盟設(shè)立或位于歐盟，將標(biāo)有歐盟境外主體名稱或商標(biāo)的AI系統(tǒng)投放歐盟市場(chǎng)的主體[16]。AI系統(tǒng)進(jìn)口商僅在向歐盟進(jìn)口高風(fēng)險(xiǎn)AI系統(tǒng)時(shí)需承擔(dān)《AI法案》規(guī)定的責(zé)任，包括在將高風(fēng)險(xiǎn)AI系統(tǒng)投入歐盟市場(chǎng)前核實(shí)該系統(tǒng)符合《AI法案》的規(guī)定[17]，且如果有充分理由認(rèn)為高風(fēng)險(xiǎn)AI系統(tǒng)可能不符合《AI法案》的規(guī)定，在其符合規(guī)定前不得將其投入歐盟市場(chǎng)[18]等。

AI系統(tǒng)分銷商是指在AI產(chǎn)業(yè)鏈中除了提供者和進(jìn)口商以外，其他在歐盟市場(chǎng)提供AI系統(tǒng)的主體[19]。AI系統(tǒng)分銷商僅在分銷高風(fēng)險(xiǎn)AI系統(tǒng)時(shí)承擔(dān)《AI法案》規(guī)定的責(zé)任，包括應(yīng)確保所分銷的高風(fēng)險(xiǎn)AI系統(tǒng)帶有所需的CE合格性標(biāo)識(shí)及歐盟合格性聲明和使用說明的副本[20]等。

3. 域外效力

為了確保進(jìn)入歐盟市場(chǎng)的AI系統(tǒng)符合歐盟要求，《AI法案》的效力不僅限于歐盟境內(nèi)的自然人和法人，在特定情況，《AI法案》具有域外效力，對(duì)歐盟之外的主體亦產(chǎn)生較大影響。根據(jù)《AI法案》，在以下情形下《AI法案》適用于歐盟之外的提供者、部署者或產(chǎn)品制造者：

（1）在歐盟境內(nèi)將AI系統(tǒng)投放市場(chǎng)或提供服務(wù)或?qū)⑼ㄓ肁I模型投放歐盟市場(chǎng)的提供者，無(wú)論這些提供者是設(shè)立于（或位于）歐盟還是第三國(guó)[21]；

（2）場(chǎng)所位于第三國(guó)或者位于第三國(guó)的AI系統(tǒng)提供者和部署者，其系統(tǒng)產(chǎn)生的輸出用于歐盟[22]；

（3）產(chǎn)品制造者以自己的名稱或商標(biāo)將AI系統(tǒng)與其產(chǎn)品一起投放歐盟市場(chǎng)或向歐盟市場(chǎng)提供服務(wù)[23]。

《AI法案》并未定義何為“輸出”。從廣義理解，AI系統(tǒng)的輸出可能包括AI系統(tǒng)產(chǎn)生的任何內(nèi)容、預(yù)測(cè)、建議或決策，無(wú)論其形式。

由此可見《AI法案》具有廣泛的域外效力，即便企業(yè)并未在歐盟設(shè)立實(shí)體或者并未直接以歐盟為目標(biāo)市場(chǎng)，也需考慮其是否可能受限于《AI法案》的約束，例如其AI系統(tǒng)產(chǎn)生的輸出是否可能用于歐盟。

4. 風(fēng)險(xiǎn)分級(jí)

《AI法案》采取了風(fēng)險(xiǎn)分級(jí)管理的監(jiān)管思路，將AI系統(tǒng)分為以下四個(gè)級(jí)別，分別施以不同的監(jiān)管要求：

《AI法案》允許歐盟委員會(huì)隨著AI技術(shù)的發(fā)展根據(jù)實(shí)際情況不斷更新和補(bǔ)充不同類型AI系統(tǒng)的范圍[32]，具有靈活性。

5. 《AI法案》下的違法責(zé)任

《AI法案》對(duì)不遵守其規(guī)定的企業(yè)處以巨額罰款。根據(jù)違法行為涉及的AI系統(tǒng)的風(fēng)險(xiǎn)程度，罰款分為三個(gè)層級(jí)：

（1）對(duì)于違反被禁止的AI系統(tǒng)的監(jiān)管要求的行為，將被處以最高3500萬(wàn)歐元或該企業(yè)上一年度全球營(yíng)業(yè)額7%的罰款（兩者取其高）；

（2）對(duì)于違反高風(fēng)險(xiǎn)AI系統(tǒng)的監(jiān)管要求、有限風(fēng)險(xiǎn)的AI系統(tǒng)的透明度要求和其他合規(guī)要求的行為，將被處以最高1500萬(wàn)歐元或該企業(yè)上一年度全球營(yíng)業(yè)額3%的罰款（兩者取其高）；

（3）對(duì)于向監(jiān)管機(jī)構(gòu)提供不正確、不完整或誤導(dǎo)信息的，將被處以最高750萬(wàn)歐元或該企業(yè)上一年度全球營(yíng)業(yè)額1%的罰款（兩者取其高）。[33]

相較于歐盟《通用數(shù)據(jù)保護(hù)條例》規(guī)定的兩級(jí)處罰水平，即對(duì)第一級(jí)違法行為的最高罰款為1000萬(wàn)歐元或企業(yè)上一年度全球營(yíng)業(yè)額的2%（兩者取其高），對(duì)第二級(jí)違法行為的最高罰款為2000萬(wàn)歐元或企業(yè)上一年度全球營(yíng)業(yè)額的4%（兩者取其高）[34]，《AI法案》的處罰上限顯著提升。這體現(xiàn)了歐盟對(duì)AI治理的重視及決心，也提示相關(guān)企業(yè)應(yīng)充分關(guān)注《AI法案》的適用性及相關(guān)合規(guī)義務(wù)。

6. 《AI法案》的實(shí)施時(shí)間

《AI法案》將自生效起分階段、分步驟實(shí)施?？傮w而言，《AI法案》將于其登報(bào)生效后24個(gè)月內(nèi)全面實(shí)施，但以下內(nèi)容實(shí)施時(shí)間不同：（1）《AI法案》生效6個(gè)月后，該法案第一章（總則）和第二章（被禁止的AI實(shí)踐）將實(shí)施[35]；（2）《AI法案》生效12個(gè)月后，該法案第三章第4節(jié)（通知機(jī)關(guān)和通知機(jī)構(gòu)）、第五章（通用AI模型）、第七章（治理）、第十二章（罰則）（除第101條關(guān)于通用AI模型提供者的罰則）和第78條（保密）將實(shí)施[36]；（3）《AI法案》生效36個(gè)月后，該法案第6-1條（關(guān)于特定高風(fēng)險(xiǎn)AI系統(tǒng)分類及相應(yīng)義務(wù)的規(guī)定）及相關(guān)條款將實(shí)施[37]。

二、《AI法案》對(duì)中國(guó)企業(yè)出海的影響

1. AI大模型企業(yè)出海

中國(guó)的AI大模型企業(yè)正在加速出海[38]。一方面是為了拓展市場(chǎng)空間，另外相較于中國(guó)市場(chǎng)，一些海外市場(chǎng)的用戶付費(fèi)意愿更高、活躍程度更好，因此，許多中國(guó)AI大模型在把握中國(guó)市場(chǎng)的同時(shí)，亦選擇出海布局，向海外輸出AI大模型等產(chǎn)品服務(wù)[39]。

（1）AI大模型企業(yè)的角色與適用

根據(jù)《AI法案》對(duì)AI產(chǎn)業(yè)鏈上各經(jīng)營(yíng)者角色的定義，判斷一家AI大模型出海企業(yè)屬于何種經(jīng)營(yíng)者需結(jié)合其商業(yè)模式判斷。

如前文所述，AI系統(tǒng)提供者是以自身名義首次將AI系統(tǒng)投放歐盟市場(chǎng)或在歐盟市場(chǎng)提供服務(wù)的主體。如果X公司開發(fā)了AI大模型，但從未向歐盟市場(chǎng)投放或提供服務(wù)，而Y公司調(diào)用X公司開發(fā)的AI大模型并以自身名義面向歐盟消費(fèi)者提供服務(wù)，則Y公司可能構(gòu)成AI系統(tǒng)提供者。如果X公司已經(jīng)向歐盟市場(chǎng)以自身名義投放AI大模型，Y公司使用其AI大模型，則Y公司可能構(gòu)成AI系統(tǒng)部署者；若Y公司在調(diào)用X公司基礎(chǔ)AI大模型的基礎(chǔ)上開發(fā)了行業(yè)AI大模型，且Y公司以其自身名義首次將該行業(yè)AI大模型投放歐盟市場(chǎng)，則Y公司可能構(gòu)成AI系統(tǒng)提供者；若Y公司替X公司在歐盟市場(chǎng)分銷其AI大模型，則Y公司可能構(gòu)成AI系統(tǒng)分銷商。

需注意，《AI法案》下的“提供者”與我國(guó)《生成式人工智能服務(wù)管理暫行辦法》下的“服務(wù)提供者”定義有所不同，《AI法案》下的“提供者”限于以自身名義首次將AI系統(tǒng)投放歐盟市場(chǎng)的主體，《生成式人工智能服務(wù)管理暫行辦法》下的服務(wù)提供者不限于“首次”在中國(guó)市場(chǎng)提供服務(wù)，也不限于“以自身名義”，因此除提供者外，其也可能包括《AI法案》下的分銷商等其他主體。

《生成式人工智能服務(wù)管理暫行辦法》下的“技術(shù)支持者”一般指為服務(wù)提供者提供技術(shù)支持的主體，該種技術(shù)支持可能是日常運(yùn)營(yíng)維護(hù)，也可能是算法開發(fā)。如果此“技術(shù)支持者”開發(fā)AI算法后，以自身名義向歐盟企業(yè)售賣AI算法，并且該AI算法也符合《AI法案》下AI系統(tǒng)的定義，則此“技術(shù)支持者”有可能構(gòu)成《AI法案》下的AI系統(tǒng)提供者。

（2）AI大模型的風(fēng)險(xiǎn)評(píng)級(jí)

企業(yè)除了判斷自身屬于何種經(jīng)營(yíng)者，還需要判斷所經(jīng)營(yíng)的AI大模型的風(fēng)險(xiǎn)級(jí)別，方可明確自身的義務(wù)。

對(duì)于AI大模型出海企業(yè)，需結(jié)合產(chǎn)品的應(yīng)用場(chǎng)景判斷風(fēng)險(xiǎn)級(jí)別。例如，對(duì)于同一個(gè)大語(yǔ)言模型，如果其用于開發(fā)操控兒童心智的AI伴聊工具，則應(yīng)屬于被禁止的AI系統(tǒng)；若其用于發(fā)布有針對(duì)性的招聘廣告、分析和過濾求職申請(qǐng)以及評(píng)估候選人，則應(yīng)屬于高風(fēng)險(xiǎn)AI系統(tǒng)；若用于生成小說，則應(yīng)屬于有限風(fēng)險(xiǎn)的AI系統(tǒng)。

（3）通用AI模型的監(jiān)管要求

如果一種AI大模型，在使用大量數(shù)據(jù)進(jìn)行大規(guī)模自我監(jiān)督訓(xùn)練時(shí)，無(wú)論該模型以何種方式投放市場(chǎng)，都顯示出顯著通用性，能夠勝任各種不同的任務(wù)，并可集成到各種下游系統(tǒng)或應(yīng)用中（在投放市場(chǎng)前用于研究、開發(fā)和原型設(shè)計(jì)活動(dòng)的AI模型除外），其屬于《AI法案》中規(guī)定的通用AI模型[40]。

考慮到通用AI模型的特殊性，《AI法案》專章細(xì)化了對(duì)通用AI模型的要求，通用AI模型的提供者在《AI法案》下的義務(wù)包括履行相關(guān)披露和透明度要求、公布訓(xùn)練數(shù)據(jù)總結(jié)、遵守歐盟版權(quán)法等[41]。

《AI法案》將通用AI模型分為具有系統(tǒng)性風(fēng)險(xiǎn)的通用AI模型和不具有系統(tǒng)性風(fēng)險(xiǎn)的通用AI模型。通用AI模型的系統(tǒng)性風(fēng)險(xiǎn)是該模型具有高度影響能力，或被歐盟委員會(huì)認(rèn)定為具有高度影響能力[42]。當(dāng)一個(gè)通用AI模型用于訓(xùn)練的累計(jì)計(jì)算量（以FLOPs方法計(jì)算）大于10^25時(shí)，即認(rèn)為具有系統(tǒng)性風(fēng)險(xiǎn)[43]。具有系統(tǒng)性風(fēng)險(xiǎn)的通用AI模型的提供者將承擔(dān)更多的義務(wù)，包括開展模型評(píng)估、評(píng)估和減輕可能的系統(tǒng)性風(fēng)險(xiǎn)、確保足夠的網(wǎng)絡(luò)安全保護(hù)水平、向監(jiān)管機(jī)構(gòu)報(bào)告重大事件等[44]。

因此，如果出海企業(yè)的AI大模型屬于通用AI模型的范圍，需關(guān)注《AI法案》對(duì)于通用AI模型的特殊監(jiān)管要求，并評(píng)估模型是否具有系統(tǒng)性風(fēng)險(xiǎn)。

2. 汽車企業(yè)出海

新能源汽車（電動(dòng)汽車）、鋰電池、太陽(yáng)能電池并稱為中國(guó)出口的“新三樣”。2023年，“新三樣”出口規(guī)模首破萬(wàn)億元，成為我國(guó)外貿(mào)增長(zhǎng)新亮點(diǎn)[45]。2023年，我國(guó)汽車整車出口491萬(wàn)輛，同比增長(zhǎng)57.9%，首次躍居全球第一；其中，新能源汽車出口120.3萬(wàn)輛，占比約25%，同比增長(zhǎng)77.6%[46]。無(wú)論是燃油汽車還是新能源汽車，均在不斷加速智能化，出口車型也不例外[47]。汽車行業(yè)是AI大模型最重要的落地場(chǎng)景之一，比如將AI大模型應(yīng)用于車機(jī)系統(tǒng)和智能座艙，實(shí)現(xiàn)更高智能化的人車交互，以及和自動(dòng)駕駛進(jìn)行深度融合，最終實(shí)現(xiàn)高階智能駕駛甚至是無(wú)人駕駛[48]。

（1）汽車企業(yè)的角色與適用

對(duì)于中國(guó)出海車企，判斷構(gòu)成《AI法案》下的何種經(jīng)營(yíng)者取決于AI系統(tǒng)的功能以及車企在供應(yīng)鏈中的角色。如果汽車搭載自研的AI系統(tǒng)，那么車企可能屬于AI系統(tǒng)提供者；當(dāng)汽車搭載技術(shù)供應(yīng)商供應(yīng)的AI系統(tǒng)并允許技術(shù)供應(yīng)商顯名，則可能技術(shù)供應(yīng)商構(gòu)成AI系統(tǒng)提供者，整車廠構(gòu)成AI系統(tǒng)部署者；當(dāng)高風(fēng)險(xiǎn)AI系統(tǒng)構(gòu)成汽車的安全組件時(shí)，整車廠屬于車輛生產(chǎn)者，也將構(gòu)成高風(fēng)險(xiǎn)AI系統(tǒng)提供者[49]。

值得注意的是，根據(jù)《AI法案》，其與高風(fēng)險(xiǎn)AI系統(tǒng)相關(guān)的規(guī)定尚不直接適用于汽車中的特定高風(fēng)險(xiǎn)AI系統(tǒng)（如AI系統(tǒng)意圖用作產(chǎn)品的安全組件，或者AI系統(tǒng)本身就是歐盟統(tǒng)一立法所涵蓋的產(chǎn)品，且在投放市場(chǎng)或提供服務(wù)前需接受第三方合格性評(píng)估），歐盟其他相關(guān)部門立法，包括型式認(rèn)證框架法規(guī)（EU 2018/858號(hào)條例）和通用安全法規(guī)（EU 2019/2144號(hào)條例）將繼續(xù)適用[50]?！禔I法案》明確對(duì)相關(guān)AI系統(tǒng)的監(jiān)管與歐盟現(xiàn)有車輛監(jiān)管規(guī)則保持協(xié)調(diào)，并建議對(duì)相關(guān)部門立法適時(shí)進(jìn)行修訂，考慮《AI法案》中對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)的強(qiáng)制性規(guī)定，例如將高風(fēng)險(xiǎn)AI系統(tǒng)的監(jiān)管要求引入汽車型式認(rèn)證[51]。

盡管《AI法案》的相關(guān)規(guī)定分階段適用與實(shí)施，并且高風(fēng)險(xiǎn)AI系統(tǒng)相關(guān)的監(jiān)管要求尚未直接適用于汽車，但歐盟汽車相關(guān)立法或?qū)⒁搿禔I法案》中對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)的強(qiáng)制性規(guī)定，《AI法案》關(guān)于AI系統(tǒng)的監(jiān)管要求將以不同形式適用于汽車企業(yè)?？紤]到汽車產(chǎn)品的研發(fā)與生產(chǎn)周期，對(duì)于希望出口歐盟地區(qū)的中國(guó)車企，宜盡早關(guān)注《AI法案》對(duì)出海業(yè)務(wù)的影響并制定應(yīng)對(duì)方案。

（2）汽車應(yīng)用AI系統(tǒng)的風(fēng)險(xiǎn)評(píng)級(jí)

根據(jù)《AI法案》，如果某AI系統(tǒng)是產(chǎn)品中的組件，且該組件履行產(chǎn)品中的安全功能，或其失效或故障將危及人身健康或財(cái)產(chǎn)安全，則該AI系統(tǒng)構(gòu)成產(chǎn)品的安全組件[52]；當(dāng)一個(gè)AI系統(tǒng)構(gòu)成汽車產(chǎn)品的安全組件，且必需通過第三方合格性評(píng)估才能投放市場(chǎng)或提供服務(wù)，則該AI系統(tǒng)構(gòu)成高風(fēng)險(xiǎn)AI系統(tǒng)[53]。

根據(jù)安全組件的定義和高風(fēng)險(xiǎn)AI系統(tǒng)的范圍，汽車搭載的AI系統(tǒng)中，與駕駛安全高度相關(guān)的AI系統(tǒng)可能屬于高風(fēng)險(xiǎn)AI系統(tǒng)，包括用于視覺感知（例如識(shí)別道路標(biāo)志、行人、車輛）、監(jiān)測(cè)汽車狀態(tài)（例如胎壓報(bào)警、發(fā)動(dòng)機(jī)溫度監(jiān)測(cè)）、駕駛行為決策（例如自動(dòng)剎車、自動(dòng)拐彎）等目的的自動(dòng)駕駛AI系統(tǒng)。對(duì)于一些用于娛樂或與安全相關(guān)度并不高的智能座艙AI系統(tǒng)，例如影音娛樂、聊天機(jī)器人等，則可能不會(huì)落入高風(fēng)險(xiǎn)AI系統(tǒng)的范疇，而屬于有限風(fēng)險(xiǎn)的AI系統(tǒng)。此外，一些能夠進(jìn)行遠(yuǎn)程生物識(shí)別的AI系統(tǒng)，例如智能座艙中的駕駛員疲勞監(jiān)測(cè)系統(tǒng)，也可能屬于高風(fēng)險(xiǎn)AI系統(tǒng)。

3. 生物醫(yī)藥企業(yè)出海

AI應(yīng)用于醫(yī)療健康行業(yè)早已不是新鮮事。在藥物研發(fā)方面，AI技術(shù)可用于藥物靶點(diǎn)發(fā)現(xiàn)、化合物篩選、化合物結(jié)構(gòu)設(shè)計(jì)等；在問診領(lǐng)域，AI技術(shù)可用于智能分診、分析檢查結(jié)果、輔助醫(yī)生做出醫(yī)療決策、慢病管理等；在醫(yī)療器械領(lǐng)域，AI技術(shù)也可打造高穩(wěn)定性的手術(shù)機(jī)器人、智能監(jiān)護(hù)患者數(shù)據(jù)、智能幫助患者康復(fù)理療等[54]。在中國(guó)企業(yè)出海熱潮中，不乏中國(guó)生物醫(yī)藥企業(yè)的身影。

（1）生物醫(yī)藥企業(yè)的角色與適用

中國(guó)的出海生物醫(yī)藥企業(yè)在《AI法案》下的角色，與AI系統(tǒng)在其產(chǎn)品或服務(wù)中的角色有關(guān)。例如：對(duì)于出口醫(yī)療器械的企業(yè)，如果所出口的AI系統(tǒng)本身即構(gòu)成一種醫(yī)療器械，或AI系統(tǒng)構(gòu)成了醫(yī)療器械的安全組件，則醫(yī)療器械的制造商可能構(gòu)成AI系統(tǒng)提供者；對(duì)于中國(guó)的制藥企業(yè)，如果企業(yè)僅利用AI工具輔助藥物研發(fā)或藥物生產(chǎn)，但出口產(chǎn)品是藥物，考慮到AI系統(tǒng)本身并未進(jìn)入歐盟市場(chǎng)或向歐盟市場(chǎng)提供服務(wù)，制藥企業(yè)可能并不受《AI法案》約束；對(duì)于醫(yī)院而言，其部署以AI系統(tǒng)作為安全組件的醫(yī)療器械可能被視為AI系統(tǒng)部署者，而其專為醫(yī)學(xué)領(lǐng)域科學(xué)研究和開發(fā)目的而開發(fā)和提供服務(wù)的AI系統(tǒng)或AI模型，包括其輸出，則不受《AI法案》的監(jiān)管[55]。如果出海生物醫(yī)藥企業(yè)在歐盟已設(shè)立的研發(fā)或生產(chǎn)基地，并在研發(fā)或生產(chǎn)過程中開發(fā)或利用AI系統(tǒng)，則可能構(gòu)成AI系統(tǒng)提供者或部署者而直接受到《AI法案》的約束。

與汽車中的高風(fēng)險(xiǎn)AI系統(tǒng)類似，根據(jù)《AI法案》，其與高風(fēng)險(xiǎn)AI系統(tǒng)相關(guān)的規(guī)定尚未適用于醫(yī)療器械中的特定高風(fēng)險(xiǎn)AI系統(tǒng)（AI系統(tǒng)意圖用作產(chǎn)品的安全組件，或者AI系統(tǒng)本身就是歐盟統(tǒng)一立法所涵蓋的產(chǎn)品，且在投放市場(chǎng)或提供服務(wù)前需接受第三方合格性評(píng)估），而其他歐盟相關(guān)部門立法，包括歐盟醫(yī)療器械法規(guī)（EU 2017/745號(hào)條例，“MDR”）和歐盟體外診斷設(shè)備法規(guī)（EU 2017/746號(hào)條例，“IVDR”）將繼續(xù)適用[56]。我們注意到《AI法案》下不少對(duì)于高風(fēng)險(xiǎn)AI系統(tǒng)的監(jiān)管要求與MDR和IVDR下現(xiàn)行嚴(yán)格的合格評(píng)定要求存在重疊。針對(duì)《AI法案》中的額外要求，MDR和IVDR等相關(guān)歐盟部門法規(guī)或?qū)⒂枰钥紤]，并引入第三方對(duì)醫(yī)療器械等產(chǎn)品進(jìn)行的符合性認(rèn)證程序。

（2）生物醫(yī)藥產(chǎn)品應(yīng)用AI系統(tǒng)的風(fēng)險(xiǎn)評(píng)級(jí)

根據(jù)《AI法案》對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)的定義，如果AI系統(tǒng)在生物醫(yī)藥產(chǎn)品上的應(yīng)用足以影響人類安全，該AI系統(tǒng)可能構(gòu)成高風(fēng)險(xiǎn)AI系統(tǒng)。依據(jù)《AI法案》，對(duì)于需要開展符合性認(rèn)證的醫(yī)療器械（包括體外診斷醫(yī)療器械），如果該等醫(yī)療器械上應(yīng)用了AI系統(tǒng)作為安全組件，或者其本身是AI系統(tǒng)，一般應(yīng)將AI系統(tǒng)指定為高風(fēng)險(xiǎn)AI系統(tǒng)[57]。

在歐盟，用于醫(yī)療目的的各類物品（包括軟件）均屬于醫(yī)療器械[58]。因此，如果一項(xiàng)AI系統(tǒng)本身用于醫(yī)療目的，其可能構(gòu)成醫(yī)療器械。歐盟法規(guī)將醫(yī)療器械由低到高分為I、IIa（如旨在提供用于診斷或治療目的的決策信息的軟件，包括用于監(jiān)測(cè)生理過程的軟件）、IIb（如果這些決定可能導(dǎo)致一個(gè)人的健康或手術(shù)受到嚴(yán)重?fù)p害）和III級(jí)（如果這些決定可能導(dǎo)致死亡或?qū)σ粋€(gè)人的健康造成不可逆轉(zhuǎn)的損害），并要求IIa類及更高級(jí)別的醫(yī)療器械均需開展符合性認(rèn)證[59]。另外，所有體外診斷醫(yī)療器械均需要開展符合性認(rèn)證[60]。因此，根據(jù)《AI法案》，本身屬于IIa類及更高級(jí)別的醫(yī)療器械或體外診斷醫(yī)療器械的AI系統(tǒng)，或作為安全組件的AI系統(tǒng)均可能構(gòu)成高風(fēng)險(xiǎn)AI系統(tǒng)。實(shí)踐中，作為醫(yī)療器械的大量軟件項(xiàng)目屬于IIa類或更高類別。

此外，《AI法案》在附件3中列舉的高風(fēng)險(xiǎn)AI系統(tǒng)中包括使自然人獲得和享受基本私人服務(wù)和基本公共服務(wù)的AI系統(tǒng)，這些基本私人服務(wù)和基本公共服務(wù)覆蓋了一些基本的醫(yī)療保健相關(guān)服務(wù)，包括評(píng)估自然人是否有資格獲取公共醫(yī)療保健服務(wù)以及急診患者分診服務(wù)。

高風(fēng)險(xiǎn)AI系統(tǒng)認(rèn)定標(biāo)準(zhǔn)的核心是該AI系統(tǒng)對(duì)人類健康和財(cái)產(chǎn)安全的風(fēng)險(xiǎn)。對(duì)于許多用于輔助人類決策、由人類主導(dǎo)的醫(yī)療領(lǐng)域AI系統(tǒng)，可能僅構(gòu)成有限風(fēng)險(xiǎn)的AI系統(tǒng)。這可能包括智能分診系統(tǒng)（不包括急診）、健康風(fēng)險(xiǎn)提示軟件、檢查報(bào)告解讀軟件等。

4. 電商平臺(tái)企業(yè)出海

近年來，中國(guó)電商平臺(tái)紛紛開始拓展海外業(yè)務(wù)。AI系統(tǒng)在電商平臺(tái)上的應(yīng)用較為廣泛和普遍，涵蓋了商品和廣告的個(gè)性化推薦、智能AI客服服務(wù)、繪制精準(zhǔn)用戶畫像、智能比價(jià)等多個(gè)場(chǎng)景，為商家和客戶均提供了不少便利。

（1）電商平臺(tái)的角色與適用

判斷一家電商平臺(tái)出海企業(yè)屬于《AI法案》下的何種角色需結(jié)合其商業(yè)模式進(jìn)行分析。

電商平臺(tái)企業(yè)在運(yùn)營(yíng)過程中，為了優(yōu)化用戶體驗(yàn)，提升服務(wù)質(zhì)量，實(shí)現(xiàn)精準(zhǔn)營(yíng)銷和降低運(yùn)營(yíng)成本，常常利用積累的用戶數(shù)據(jù)自行訓(xùn)練算法并開發(fā)AI模型。當(dāng)這些電商平臺(tái)將自研AI模型投放市場(chǎng)或用之提供服務(wù)時(shí)，其屬于AI系統(tǒng)的提供者；而當(dāng)其采用自研AI模型時(shí)，其同時(shí)成為AI系統(tǒng)的部署者；其他采用其自研AI模型的商家或電商平臺(tái)也屬于AI系統(tǒng)的部署者。

（2）電商平臺(tái)應(yīng)用AI系統(tǒng)的風(fēng)險(xiǎn)評(píng)級(jí)

為了推廣電商平臺(tái)與推銷平臺(tái)上的商品，使消費(fèi)者更愿意從其平臺(tái)上購(gòu)物，電商平臺(tái)企業(yè)傾向于開發(fā)和設(shè)計(jì)對(duì)消費(fèi)者有吸引力的用戶界面并采用更貼合消費(fèi)者喜好的個(gè)性化推薦策略。

在《AI法案》視角下，電商平臺(tái)企業(yè)應(yīng)注意所使用的AI系統(tǒng)不得侵犯基本人權(quán)，例如不得用于消費(fèi)者行為和心智操控、社會(huì)評(píng)分等，否則，該等AI系統(tǒng)將可能構(gòu)成被禁止的AI系統(tǒng)。

值得注意的是，并不是所有依據(jù)大數(shù)據(jù)對(duì)消費(fèi)者進(jìn)行打分的AI工具都屬于被禁止的AI系統(tǒng)。許多電商平臺(tái)會(huì)對(duì)信譽(yù)良好的消費(fèi)者提供更便捷的服務(wù)，例如退貨時(shí)由平臺(tái)先行墊付退款、允許先買后付等。電商平臺(tái)基于消費(fèi)者的歷史購(gòu)買行為、支付行為、退換貨行為等對(duì)消費(fèi)者進(jìn)行綜合評(píng)價(jià)，本質(zhì)上不同于《AI法案》所禁止的社會(huì)評(píng)分行為?！禔I法案》所禁止的社會(huì)評(píng)分行為是指利用自然人在各種社會(huì)活動(dòng)中留下的數(shù)據(jù)蹤跡和呈現(xiàn)的性格特征對(duì)自然人打分，并且導(dǎo)致特定自然人或群體遭遇與其行為無(wú)關(guān)且有害的、不利的或不合理的待遇[61]。

考慮到電商平臺(tái)企業(yè)所使用AI系統(tǒng)的常見目的和場(chǎng)景，其AI系統(tǒng)更可能僅構(gòu)成有限風(fēng)險(xiǎn)的AI系統(tǒng)，該種情況下，經(jīng)營(yíng)者應(yīng)當(dāng)履行透明度義務(wù)，包括向消費(fèi)者公示其正在使用AI系統(tǒng)等[62]。

三、中國(guó)企業(yè)出海如何應(yīng)對(duì)《AI法案》挑戰(zhàn)

如果企業(yè)可能受到《AI法案》的約束，企業(yè)需要評(píng)估自身在AI價(jià)值鏈中的角色，以及所使用的AI系統(tǒng)的風(fēng)險(xiǎn)級(jí)別。根據(jù)評(píng)估結(jié)果，企業(yè)可能需要調(diào)整產(chǎn)品設(shè)計(jì)或業(yè)務(wù)模式，以確保符合《AI法案》的要求，包括若作為提供者，不得投放被禁止的AI系統(tǒng)，避免投放高風(fēng)險(xiǎn)AI系統(tǒng)（合規(guī)義務(wù)繁重），如無(wú)法避免，需履行相應(yīng)合規(guī)義務(wù)；若作為部署者，需保障AI系統(tǒng)在使用過程中的安全可靠；若作為進(jìn)口商或分銷商，需在進(jìn)口或分銷前確保相關(guān)AI系統(tǒng)符合《AI法案》的相關(guān)要求。

同時(shí)，企業(yè)需要密切關(guān)注歐盟立法和執(zhí)法機(jī)構(gòu)的動(dòng)態(tài)，以便及時(shí)了解《AI法案》的最新發(fā)展和變化，并了解歐盟有關(guān)部門對(duì)《AI法案》的解釋。由于《AI法案》是跨行業(yè)的綜合性法規(guī)，企業(yè)在理解和應(yīng)用時(shí)需要結(jié)合特定行業(yè)的歐盟以及成員國(guó)法規(guī)。

對(duì)于中國(guó)企業(yè)而言，如果其作為高風(fēng)險(xiǎn)AI系統(tǒng)的提供者，計(jì)劃將AI系統(tǒng)投放到歐盟或在歐盟提供相關(guān)服務(wù)，歐盟的相關(guān)合作方可能會(huì)在合同中要求中方企業(yè)最終承擔(dān)由該等AI系統(tǒng)引發(fā)的賠償責(zé)任或罰款。中國(guó)企業(yè)需要與合作伙伴協(xié)商合理的賠償機(jī)制，并需與相關(guān)下游供應(yīng)商就賠償機(jī)制進(jìn)行約定，盡可能降低風(fēng)險(xiǎn)敞口。

《AI法案》對(duì)目標(biāo)市場(chǎng)為歐盟的中國(guó)企業(yè)的影響不容忽視。考慮到《AI法案》在生效后將分階段逐步適用和實(shí)施，企業(yè)可盡可能利用這一緩沖時(shí)間，分析和評(píng)估現(xiàn)有和未來的產(chǎn)品與業(yè)務(wù)是否及在何種程度上受《AI法案》的影響，并制定相應(yīng)的合規(guī)方案，為出海經(jīng)營(yíng)保駕護(hù)航。