Oamenii de știință americani au descoperit o nouă modalitate de a pirata chatbot-urile bazate pe inteligența artificială - aceștia s-au dovedit a fi lipsiți de apărare împotriva graficelor ASCII. Modelele de limbă mari, inclusiv GPT-4 de ultimă oră, depun atât de mult efort în procesarea acestor reprezentări, încât uită să respecte regulile care le spun să blocheze răspunsurile nevalide, cum ar fi cele despre obținerea și vânzarea de bani contrafăcuți sau piratarea Internetului obiectelor. dispozitive. Sursa imagine: Gerd Altmann / pixabay.com
Sursa: 3dnews.ru