強大的人工智能模型有時會出現錯誤，包括虛構錯誤信息或將他人作品作為自己的。為了解決后者的問題，德克薩斯大學奧斯汀分校的研究團隊開發了一種名為 "Ambient Diffusion" 的框架。該框架通過對無法辨認的圖像數據進行訓練，繞過了 AI 模型復制他人作品的問題。

　　DALL-E、Midjourney 和 Stable Diffusion 是文本到圖像擴散生成的人工智能模型，它們能夠將任意用戶文本轉化為高度逼真的圖像。這三個模型都面臨著藝術家提起訴訟的問題，他們聲稱生成的樣本復制他們的作品。這些模型是通過訓練數十億個圖像 - 文本對來實現的，這些對外不公開，它們能夠生成高質量的圖像，但可能會使用版權圖像并復制它們。

　　"Ambient Diffusion" 框架的提出解決了這個問題，通過僅通過擾亂后的圖像數據對擴散模型進行訓練。初步實驗表明，該框架仍然能夠生成高質量的樣本，而不需要看到任何可識別為原始源圖像的內容。研究團隊首先在一組3000張名人圖片上訓練了一個擴散模型，然后使用該模型生成了新的樣本。

　　在實驗中，用清晰的數據訓練的擴散模型明顯復制了訓練樣本。但當研究人員對訓練數據進行擾亂，隨機遮擋圖像中的個別像素，然后用新的方法對模型進行重新訓練時，生成的樣本保持了高質量，但看起來完全不同。該模型仍然可以生成人臉，但生成的人臉與訓練圖像有明顯的區別。

　　研究人員表示，這指向了一個解決方案，盡管可能會改變性能，但永遠不會輸出噪聲。這一框架為學術研究人員如何推進人工智能以滿足社會需求提供了一個示例。德克薩斯大學奧斯汀分校已將2024年宣布為 "AI 之年"，這是今年的一個關鍵主題。該研究團隊還包括加州大學伯克利分校和麻省理工學院的成員。