Meta應加強審查其平台上由人工智慧（AI）工具製作的假冒內容的「蔓延」，該社群媒體巨頭的自家顧問表示。

由21人組成的監督委員會在批評該公司允許一段未經標記的AI生成影片流傳時，提出了這些擔憂。該影片聲稱顯示伊朗部隊對以色列海法造成廣泛破壞。

委員會呼籲該公司徹底改革其AI規則，並警告說，與全球軍事衝突相關的假冒AI影片增加，已「挑戰了公眾區分虛構與事實的能力……冒著對所有資訊產生普遍不信任的風險」。

Meta表示，將在七天內標記有爭議的影片。

Meta於2020年成立了監督委員會，作為一個半獨立的團體，負責監督其平台（包括Facebook、Instagram和WhatsApp）上的內容審核決策。

該委員會經常與Meta的裁決意見不合，但該公司卻持續放寬其內容監管措施，這引發了對該委員會實際權力大小的質疑。

委員會表示，該公司處理海法影片的方式，凸顯了其先前曾指出的關於「Meta在武裝衝突期間現有方法效率低下」的問題。

目前，Meta主要依賴用戶「自我披露」他們發布的內容是否由AI工具製作。否則，它會等待有人向其內容審核團隊投訴，然後該團隊才能決定是否為某內容加上標籤。

委員會表示，該公司應更「頻繁地」主動標記假冒AI內容。

委員會指出，該公司目前的方法「既不夠健全也不夠全面，無法應對AI生成內容的規模和速度，尤其是在危機或衝突期間，平台參與度會提高的時候」。

委員會對此問題的審查是由去年6月一個自稱為新聞來源的菲律賓Facebook帳戶發布的影片所引發。

根據當時BBC的分析，這是衝突開始後在社群媒體上發布的一系列假冒AI影片之一，內容或親以色列或親伊朗，迅速累積了至少1億次觀看。

儘管該Facebook影片是AI生成的，內容不真實，Meta也收到了幾次用戶投訴，但該公司並未將其標記為AI生成或將其移除。

據委員會稱，直到一名Facebook用戶直接向監督委員會上訴，並且委員會受理此案後，Meta才對這些擔憂做出回應。

該公司隨後聲稱，這段獲得近100萬次觀看的影片，不需要任何形式的標記，也不需要被移除，因為它「沒有直接助長迫在眉睫的身體傷害風險」。

委員會週二表示，對於標記AI生成內容來說，這是一個太高的門檻，特別是當主題是武裝衝突時，並裁定該影片應獲得「高風險AI標籤」。

委員會表示：「Meta必須加強努力，以解決其平台上欺騙性AI生成內容的蔓延……以便用戶能夠區分真實與虛假。」

Meta在其聲明中表示，下次遇到與委員會審查的影片「相同情境」且「內容相同」時，將遵守委員會的建議。

購買AI服務的買家在努力控制成本，而賣家則不確定該收取多少費用。

約納坦·內塔尼亞胡是以色列在領導一項營救100多名人質的任務中唯一犧牲的士兵。

此時，美國媒體報導稱，美國和以色列正計劃對伊朗進行一輪密集打擊。

隨著定居點和前哨站的擴張，針對巴勒斯坦人的定居者暴力事件在約旦河西岸不斷增加。

Snapchat、YouTube、LinkedIn和Substack正試圖打擊假冒AI內容的蔓延。