在我放假的一周里，我的同事報道了將人工智能應用在戰爭中可能導致的混亂和倫理問題。這話題激起了我的興趣，同時也讓我血壓飆升。

戰爭和軍隊正在越來越多地使用人工智能工具，圍繞由此帶來的復雜而微妙的倫理問題，我的同事亞瑟·霍蘭德·米歇爾（Arthur Holland Michel）進行了出色的報道。人工智能有無數種可能導致災難性失敗或在沖突中被濫用的方式，而且似乎還沒有任何真正的規則來約束它。米歇爾的故事展示了，當事情出錯時，追究人們的責任是多么的困難重重。

(資料圖片僅供參考)

2022 年，我報道了烏克蘭戰爭如何開啟了國防人工智能創業公司的新熱潮。最近的人工智能炒作只會加劇這種情況，因為公司和軍方都在競相將生成式人工智能嵌入到產品和服務中。

本月早些時候，美國國防部宣布將成立一個生成式人工智能工作組，旨在“分析和整合”整個國防部的人工智能工具，如大型語言模型。

該部門看中了人工智能工具在改進“情報、操作計劃、行政和業務流程”方面的巨大潛力。

但是米歇爾的研究指出，為什么前兩個用例可能是糟糕的主意。生成式人工智能工具，如語言模型，是有問題和不可預測的，它們會編造一些東西。它們也有大量的安全漏洞、隱私問題和根深蒂固的偏見。

在高風險的環境中應用這些技術可能會導致致命的事故，我們甚至不清楚誰該為此負責，甚至不清楚問題發生的原因。每個人都同意人類應該作為最終的決定者，但由于技術的不可預測性，尤其是在快速發展的沖突局勢中，這一點變得有為困難。

有些人擔心，當事情出錯時，層級最低的人將付出最高的代價：“在事故發生時，不管是人錯了，是計算機錯了，還是他們都錯了，做出‘決定’的人將承擔責任，并保護指揮鏈上的其他人免受承擔責任的負面影響，”米歇爾寫道。

當人工智能在戰爭中失效或帶來負面影響時，似乎唯一不會面臨后果的是提供這項技術的公司。

當美國為管理戰爭中的人工智能制定的規則僅僅是建議，而不是法律時，這顯然幫助了企業。這使得追究任何企業的責任變得非常困難。就連歐盟即將出臺的，針對高風險人工智能系統的全面監管法案《人工智能法案》（AI Act）也將軍事用途排除在外，而軍事用途可以說是所有應用中風險最高的。

雖然每個人都在為生成 AI 尋找令人興奮的新用途，但我個人卻迫不及待地想讓它變得無聊。

有早期跡象表明，人們開始對這項技術失去興趣，公司可能會發現，這類工具更適合于日常、低風險的應用，而不是用來解決生死存亡這種人類所面臨的最大的問題。

例如，將人工智能應用于 Excel、電子郵件或文字處理等生產力軟件，可能聽起來很無聊，但與戰爭相比，這是一個風險很低的應用，而且足夠簡單，有可能像公司宣傳的那樣真正發揮作用，創造價值。它可以幫助我們更快更好地完成繁瑣的工作。

無趣的人工智能應用不太可能輕易崩潰，最重要的是，它不會殺死任何人。希望很快我們就會忘記我們是在與人工智能互動：不久之前，機器翻譯還是人工智能領域一個令人興奮的新事物，而現在，大多數人甚至不會意識到它在驅動谷歌翻譯方面所起的作用。

（來源：AI 生成）

這就是為什么我更有信心，像國防和軍方這樣的組織將成功地在行政和業務流程中應用生成式人工智能。

無趣的人工智能并不容易陷入道德困境。雖然它聽起來缺乏一種魔力，但它是有效的。

作者簡介：梅麗莎·海基萊（Melissa Heikkil?）是《麻省理工科技評論》的資深記者，她著重報道人工智能及其如何改變我們的社會。此前，她曾在 POLITICO 撰寫有關人工智能政策和政治的文章。她還曾在《經濟學人》工作，并曾擔任新聞主播。

支持：Ren

關鍵詞：