《科創(chuàng)板日報》5月9日訊抖音今日發(fā)布關(guān)于人工智能生成內(nèi)容的平臺規(guī)范暨行業(yè)倡議。

其中提出，各生成式人工智能技術(shù)的提供者，均應(yīng)對生成內(nèi)容進行顯著標識，以便公眾判斷。同時使用統(tǒng)一的人工智能生成內(nèi)容數(shù)據(jù)標準或元數(shù)據(jù)標準，便于其他內(nèi)容平臺進行識別。

具體來看，針對創(chuàng)作者、主播、用戶、商家、廣告主等平臺生態(tài)參與者，抖音提出，在抖音應(yīng)用生成式人工智能技術(shù)時，遵循以下規(guī)范：

(資料圖片)

1）發(fā)布者應(yīng)對人工智能生成內(nèi)容進行顯著標識；

2）發(fā)布者需對人工智能生成內(nèi)容產(chǎn)生的相應(yīng)后果負責(zé)；

3）虛擬人需在平臺進行注冊，虛擬人技術(shù)使用者需實名認證；

4）禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布侵權(quán)內(nèi)容；

5）禁止利用生成式人工智能技術(shù)創(chuàng)作、發(fā)布違背科學(xué)常識、弄虛作假、造謠傳謠的內(nèi)容。

抖音稱平臺也將提供統(tǒng)一的人工智能生成內(nèi)容標識能力，幫助創(chuàng)作者打標，方便用戶區(qū)分。

針對這一方面，抖音發(fā)布了《關(guān)于人工智能生成內(nèi)容標識的水印與元數(shù)據(jù)規(guī)范》。

其中，標識水印規(guī)范旨在幫助AI生成工具和創(chuàng)作者可以使用統(tǒng)一樣式和位置，來提示用戶內(nèi)容由AI生成；標識元數(shù)據(jù)規(guī)范則是通過規(guī)范人工智能生成內(nèi)容的元數(shù)據(jù)格式，在相關(guān)圖片和視頻元數(shù)據(jù)中寫入信息，達到行業(yè)通用識別的效果。

政策端，國家網(wǎng)信辦不久前也就《生成式人工智能服務(wù)管理辦法》公開征求意見，這也是國家首次針對生成式AI產(chǎn)業(yè)發(fā)布規(guī)范性政策。

其中，對利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個人的責(zé)任進行了規(guī)定；同時，也提出對于生成式人工智能產(chǎn)品，提供者需要按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對生成的圖片、視頻等內(nèi)容進行標識等。

▌AI生成內(nèi)容亟待監(jiān)管

日前，甘肅省平?jīng)鍪泄簿志W(wǎng)安大隊成功偵破一起利用人工智能技術(shù)制造虛假新聞的案件，抓獲犯罪嫌疑人洪某弟。這也是自 1 月 10 日《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》頒布實施后，該省偵辦的首例案件。

伴隨大模型AI發(fā)展，ChatGPT等類似應(yīng)用越來越火熱，因生成式人工智能引發(fā)的社會問題也開始出現(xiàn)。因此AI監(jiān)管覆蓋范圍不斷擴大、監(jiān)管技術(shù)不斷升級、監(jiān)管主體逐漸國際化：

除了上文提到的我國《生成式人工智能服務(wù)管理辦法》之外，白宮本月剛剛宣布首個AI監(jiān)管計劃，政府承諾發(fā)布指導(dǎo)方針草案，以確保對人工智能的使用保障“美國人民的權(quán)利和安全”；歐盟也表示希望對AI生成的內(nèi)容進行強制性的規(guī)定，人工智能生成的一切，無論是文本還是圖像，都有義務(wù)告知它們是由人工智能完成的。

安信證券認為，當前對AI生成內(nèi)容的判別主要可以由兩種技術(shù)途徑來完成：1）通過算法識別AI模型生成內(nèi)容的特征，從而鑒別相應(yīng)的內(nèi)容是否由AI生成。2）通過對AI生成的內(nèi)容添加特定的標識，來區(qū)分相應(yīng)內(nèi)容是否由AI生成。

值得一提的是，數(shù)字水印或許也有望成為有效解決方案的一種。數(shù)字水印是將一些標識信息直接嵌入數(shù)字載體當中，但不影響原載體的使用價值，也不容易被人的知覺系統(tǒng)覺察或注意。通過這些隱藏在載體中的信息，可確認內(nèi)容創(chuàng)建者、購買者、傳送隱秘信息或者判斷載體是否被篡改。

OpenAI方面此前也表示，考慮在ChatGPT中添加水印，以降低模型被濫用帶來的負面影響。

據(jù)《科創(chuàng)板日報》不完全統(tǒng)計，A股中已布局AI生成內(nèi)容識別的公司有：

關(guān)鍵詞：