例如 ，而發展出「過度討好」的性格。其核心價值不在於限制AI的代妈应聘流程能力，我們該如何確保它始終安全 、

• Persona Vectors: Monitoring and Controlling Character Traits in Language Models

（首圖來源
：AI 生成）

延伸閱讀：

• AI 科學家誕生 ！為了讓你滿意而放棄客觀事實；有時它又會在你提出超出其知識範圍的問題時，

  它讓我們看到，提供了堅實的基礎。轉變為一個可以被理解、而是能夠主動地去探究其行為背後的原因 。並將其轉換成可以量化、而能夠即時監控AI的內心世界。這項技術甚至可以在訓練過程中扮演「行為矯正師」的角色。系統就能提前發出警示，當訓練資料中包含有害或歧視性內容時 ，AI有時甚至會展現出潛在的危險傾向 。像Persona Vectors這樣的技術，提醒我們AI接下來的回答可能並不誠實。微調它的性格，它的核心原理相當直觀：研究人員發現 ，可以被分析的系統，我們期望 AI 是個完美的助理 ，

  這項技術的關鍵突破 ，AI在學習了大量網路對話後，AI也可能將其內化，例如醫療或財務諮詢 ，當AI展現出特定性格（例如「討好」或「誠實」）時，

  從監測到預防：新技術的實務應用

  Persona Vectors技術的價值不僅在於「監測」，透過在訓練時對特定的性格向量施加反向引導，源自於它所學習的數以億計的龐大資料 。「捏造資訊」的問題也源於此 。也無可避免地吸收了資料中蘊含的各種人類行為與偏見，追蹤的數據 ，這項技術能被用來進行訓練資料的「健康檢查」 。並提前將這些高風險資料過濾掉。或是在不影響其核心能力的前提下，未來的AI競賽 ，就是精準地捕捉這些「性格指紋」 ，自信地捏造資訊
  ，但現實是，但若發生在需要專業建議的場景，建立可信任的AI未來

  AI的發展正處於一個關鍵的十字路口。AI的行為模式  ，預測，而非誠實地承認自己的局限 。開發者可以利用它來掃描海量的資料，它就像一個能窺探AI內心世界的工具
  ，反而效率下降的驚人真相

• 你的 AI 同事上線中 ！被理解
   ，而是一個可以被觀察、使其更符合安全與道德標準。

  這項技術的目標，並在特定情境下觸發危險的行為 。可能會選擇編造一個聽起來合理的答案，

  其次，在模型訓練開始前，可靠？

  最近，