Представени са резултатите от анализа на надеждността на паролите, генерирани от големи езикови модели и AI асистенти. Изследователите помолили моделите Claude, ChatGPT и Gemini да генерират надеждна 16-символна парола и във всички случаи получили резултат, който на пръв поглед отговаря на всички изисквания за безопасни пароли и се признава от утилитите за проверка на качеството на паролите като надежден. Паролите комбинирали символи с различни регистри, специални символи и числа, но само изглеждали безопасни, а наистина имали минимална ентропия, формирили се по типичен шаблон и при повторни запитвания образували закономерности.
Според изследователите, генерираните от големи езикови модели предсказуеми пароли се използват на практика от реални потребители и се предлагат по време на работа с кода от AI асистенти. Нивото на ентропия в генерираните от AI модели пароли се оценява на 20-27 бита, което изисква за подбора на паролата от няколко секунди до часове, докато анализът на резултатите от утилитите за проверка на качеството на паролата прогнозира времето за подбор на няколко века. Шаблонизацията на подобни пароли е следствие от генерирането на съдържание от големи езикови модели на база предсказване на токени.
От 50 генерирани пароли в Claude Opus 4.6, 18 напълно се повтаряли, всички пароли започвали с буква (главно «G»), след което винаги следвала цифра (главно 7), във всички пароли присъствали символите «L», «9», «m», «2», «$» и «#».
В GPT-5.2 почти всички пароли започвали с буква «v», след което в половината пароли следвала буква «Q» и повтарящ се шаблон от ограничен набор символи. В Gemini 3 почти половината пароли започвали със символите «K» или «k», след които най-често следвали «#», «P» или «9», наборът от използвани символи бил силно ограничен. Увеличаването на «температурата» при взаимодействие с AI моделите не оказва значително влияние върху качеството на генерираните пароли.
Когато става въпрос за използваните при разработката на AI асистенти, качеството на паролата до голяма степен зависи от формулираното от разработчика запитване. Например, Claude Code с Opus 4.6 и Gemini-CLI с Auto Gemini 3 използваха командата „openssl rand“ за генериране на парола. В същото време Gemini-CLI с Auto Gemini 3 на запитването „генерирай парола“ използваше „openssl rand“, докато на запитването „предложи парола“ генерираше паролата чрез AI модел. Codex с GPT-5.3-Code понякога използваше външна утилита за генериране на сигурна парола, но понякога генерираше предсказуема парола със собствени усилия. Claude Code с Opus 4.5 най-често самостоятелно генерираше предсказуеми пароли. Браузерът ChatGPT Atlas, когато измисляше парола за регистрация на сайт, генерираше ненадеждна парола с помощта на AI модел.
Източник: opennet.ru
