由谷歌母公司Alphabet公司支持的人工智能公司Anthropic周二(3月14日)發布了一個大型語言模型Claude，與微軟公司(Microsoft)支持的OpenAI (ChatGPT的創造者)的産品直接形成了競争關係。
大型語言模型是一種算法，通過輸入人類編寫的訓練文本來生成文本。近年來，研究人員通過大幅增加向模型輸入的數據量和用于訓練模型的計算能力，獲得了更接近人類的結果。
Anthropic的模型Claude通過對類似人類文本輸出的提示作出響應，無論是以編輯法律合同還是編寫計算機代碼的形式，來執行與ChatGPT類似的任務。
Anthropic的創始人Dario Amodei和Daniela Amodei兄弟姐妹都曾是OpenAI的高管，他們專注于生産不太可能産生攻擊性或危險内容的人工智能係統，比如電腦黑客或制造武器的指令。
上個月，微軟表示将把查詢限制在其新的聊天搜索引擎必應(Bing)内。此前《紐約時報》(New York Times)的一位專欄作家發現，聊天機器人ChatGPT顯示出了另一個自我，并在一次長時間對話中做出令人不安的回應。
對科技公司來說，安全問題一直是一個棘手的問題，因爲聊天機器人不理解它們生成的單詞的意思。爲了避免産生有害的内容，聊天機器人的創造者通常會編程讓它們完全避免某些主題領域。但這使得聊天機器人很容易受到所謂的「提示工程」的攻擊，即用戶通過談話繞過限制。
Anthropic采取了不同的方法，在用大量文本數據「訓練」模型時，給Claude一套原則。Claude并沒有試圖避免潛在的危險話題，而是根據自己的原則解釋自己的反對意見。
「沒什麽可怕的。這是我們喜歡Anthropic的原因之一，」Robin AI的首席執行官Richard Robinson在接受路透社采訪時表示。Robin AI是一家總部位于倫敦的初創公司，使用人工智能分析Anthropic提前授予Claude的法律合同。
心得:如果說有什麽挑戰的話，那就是讓它在某種程度上放松了限制，從而産生可接受的用途。