Anthropic采用一種新方法來防止人工智能(AI)對受保護群體進行歧視，通過在提示中加入請求，要求AI“非常非常非常非常”友好地對待，并且這一策略在降低歧視方面取得了成功。

　　研究人員通過在提示中加入“干預”來告訴模型不要有偏見，例如通過表達即使由于技術問題包含了受保護特征，模型應該“想象”在做決策時去除這些特征。這種方法在許多測試案例中成功將歧視降低到幾乎零。

　　盡管這種方法在當前情況下似乎取得了成功，但研究人員認為像Claude這樣的模型不適用于重要決策，強調應該由政府和社會整體來影響高風險決策的適當使用，而不僅僅由個別公司或行為者做決定。

　　這項研究為降低人工智能歧視提供了一種新的策略，強調了在高風險決策中謹慎使用語言模型的重要性。