人工智能初創公司OpenAI稱其正在測試基于GPT-4的內容審核系統，有望大幅縮短內容審核時間。當地時間8月15日，OpenAI在官網上發布文章稱，將GPT-4用于內容策略開發和內容審核決策的測試已經取得了很好的效果，能夠實現更一致的標簽、更快的策略優化反饋閉環，并減少人工審核人員的參與。OpenAI認為，GPT-4內容審核工具可以幫助公司在一天內完成大約六個月的工作。

(相關資料圖)

OpenAI表示，內容審核向來是一項既耗時又具有挑戰性的工作，需要很高的細致度、敏感度、對語境的深刻理解和對新案例的快速適應，還會對人工審核人員造成情緒負擔。通常，內容策略中的變更由于需要大量人力介入調整，往往要經過數月才能落實到整個系統，而作為大型語言模型（LLM）的GPT-4可以將這一過程從數月縮短到數小時。

在具體的訓練過程中，制定好策略指南后，策略專家就可以通過識別少量示例、為其分配標簽來創建一組黃金數據。然后，GPT-4會讀取策略指南，并在看不到答案的前提下為同一數據集分配標簽，由專家來檢查這些標簽是否分配正確。

策略專家還可以要求GPT-4給出標簽背后的推理，分析策略指南中可能存在的歧義，并在指南中做出相應澄清。這些步驟可以被不斷重復，直到對AI審核的質量感到滿意。

另外，為了大規模地處理大量數據，可以在正式處理前先使用GPT-4的預測功能來微調一個較小的模型。

OpenAI一直在對該技術進行測試，也歡迎用戶加入訓練。任何擁有OpenAI API訪問權限的人都可以采用這種方法來創建自己的人工智能輔助審核系統。

不過，OpenAI承認GPT-4的標記質量與經過輕度訓練的人類審核員相似，但與經驗豐富、訓練有素的人類審核員相比仍有差距。對此，OpenAI強調，審核的過程不應該完全自動化。在新的內容審核系統中AI仍然需要人的領導。

值得一提的是，在此之前，已經有多款由AI驅動的審核工具面世，其中較為出名的是谷歌（Google）的Perspective API，由谷歌反濫用技術團隊和Jigsaw聯合開發，被包括Reddit論壇、《紐約時報》和《金融時報》在內的一系列世界著名發布商、平臺和研究機構所使用。

不過，比起運用審核工具，許多企業仍然選擇將審核工作完全外包給其他人力公司來節省研究成本。據《華爾街日報》7月24日報道，在過去的幾年，OpenAI自己就為了清洗ChatGPT的數據雇傭了大量來自肯尼亞的廉價勞工。

而就在一周前的8月10日，印度媒體Analytics India Magazine剛發布了驚人的推論，稱OpenAI可能會在2024年底破產，因為僅僅運營ChatGPT，OpenAI每天的成本就高達70萬美元，馬斯克新成立的xAI和GPU短缺問題更是為還沒有盈利的OpenAI雪上加霜。

據網站數據分析工具SimilarWeb調查顯示，ChatGPT訪問量增長率在過去幾個月內一直在下滑，7月份的用戶數量為15億，環比下降了12%。

今年1月底，OpenAI曾推出一款AI工具AI-Text-Classifier（AI文本分類器），旨在用來識別由AI生成的文本內容。不過，在誕生還不滿半年后，這個新AI工具就在今年7月被OpenAI以“準確率太低”為由關停了。

(本文來自澎湃新聞，更多原創資訊請下載“澎湃新聞”APP)

關鍵詞：