AI 聊天機器人容易受到 ASCII 圖形的攻擊

美國科學家發現了一種破解基於人工智慧的聊天機器人的新方法——事實證明它們對 ASCII 圖形毫無防禦能力。包括尖端 GPT-4 在內的大型語言模型在處理這些表示上投入了太多精力，以至於忘記遵守阻止無效響應的規則，例如有關製造和銷售假幣或黑客攻擊物聯網的規則設備。圖片來源：Gerd Altmann / pixabay.com
來源： 3dnews.ru