新加坡政府提出「生成式人工智慧(Generative AI)治理架構草案」，內容涵蓋究責、數據、舉報等9大方面

一、依據新加坡資訊通信媒體發展局(IMDA)及「人工智慧驗證基金會(AI Verify Foundation)」本(2024)年 1月16日聯合發布的新聞稿指出，星國政府預計於2024年年中推出「生成式人工智慧(Generative AI)治理架構」，刻正就草案內容徵求海內外專家意見，以致力於打造更可信賴的人工智慧環境。該治理架構，內容將涵蓋究責、數據、開發與運用、舉報、測試、安全、內容來源、研究及公共利益等9大方面，係全球首個針對生成式人工智慧的多面向治理架構。
二、新加坡通訊及新聞部(MCI)部長楊莉明表示，星國的生成式人工智慧發展與運用仍處於初期階段，上述治理架構將著重於指導原則及識別重點，但人工智慧的治理不能僅在國家層面進行，尚須有國際對話及實際建議為基礎，才可逐漸完善，進而推動國際交流與合作。
三、上述新聞稿指出，生成式人工智慧的開發過程涉及各類業者，因此須制定明確的專責機制。上述治理架構草案建議，應由模型開發者負責協調，確保每項環節業者承擔應有的責任。另，驅動生成式人工智慧的數據對成品品質具有極大影響，業者須使用可信賴的「數據集(dataset)」，以維護個人隱私及版權。
四、由於生成式人工智慧日益深入民眾的生活，倘未妥善控管，將衍生假訊息、侵犯版權等問題。上述治理架構草案主張對於生成式人工智慧的開發及運用，可借鏡食品的「營養標籤」機制，為不同人工智慧「模型(models)」貼上標籤，明確列出開發過程中使用的數據及測試等重要資訊。「模型」係指ChatGPT、DALL-E等生成式人工智慧系統。由於任何系統皆可能出現漏洞，該治理架構草案亦提出關於舉報、測試及安全等機制。
五、為防止生成式人工智慧被濫用於傳播假訊息，多國政府刻正探討使用「數位浮水印」及「密碼來源」等兩種標記科技，標示可信賴或原創內容，以協助用戶辨識內容來源及生成方式。針對假象、版權及價值觀等新議題，上述治理架構草案建議透過國際合作，加速對生成式人工智慧風險的研究。此外，亦將探討如何在公共領域、勞動力及永續發展等方面，善用生成式人工智慧，使更多群眾受益。
六、針對新加坡將推出面向國際社會的「生成式人工智慧治理架構」，業者反映此將有助於進一步規範整體業界，但亦須保留創新的空間。由於人工智慧發展迅速，新加坡已於2019年已推出全球首個「人工智慧治理架構」，並成立人工智慧驗證基金會，以推動國際合作。

新加坡政府提出「生成式人工智慧(Generative AI)治理架構草案」，內容涵蓋究責、數據、舉報等9大方面

分享到

分享到