Коллапс модели ChatGPT. Искусственный интеллект представляет угрозу для самого себя

И вот они, наши дорогие генеративные инструменты ИИ — такие умные, что уже начали обучаться друг у друга! Как будто дети на переменке обменялись пирожками и теперь не могут понять, чей лучше. А потом один из них решает выдать ответ, который больше похож на абракадабру, чем на что-то осмысленное. Вот такой вот «коллапс модели»! Это как если бы калькуляторы начали учить друг друга считать до бесконечности — куда это только не заведет!

А ученые еще и названия придумывают для этих фокусов. «Синдром модельной автографии» звучит как загадочный диагноз в сериале про врачей. Может быть, следующий шаг — создание своего языка программирования между собой? Или даже секретного клуба генеративных инструментов ИИ, где они будут обсуждать стратегии захвата мира?

Джатан Садовски предложил свое забавное название для этого явления — «ИИ Габсбургов». Наверное, потому что эти системы начинают порождать такие странные ответы, что можно подумать, будто они родственники самой знаменитой императорской династии. Может быть, скоро они начнут писать стихи или сочинять музыку? Вполне возможно, что следующий хит-парад будет состоять из композиций написанных исключительно ИИ.

А вот Рэй Ванг переживает за нашу информационную безопасность и предвидит «эпоху тьмы общественной информации». Неужели скоро мы будем окружены только фейковыми новостями и абсурдными текстами от генеративных инструментов ИИ? Может быть, стоит уже начинать готовиться к тому времени, когда новостные рубрики будут заполнены заголовками типа: «Человек попросил ИИ составить список покупок — вы не поверите, что произошло потом!»

Весь этот абсурд с названиями и прогнозами только подтверждает одно: мир технологий развивается стремительно и порой смешно. Кто знает, может быть через несколько лет мы будем смеяться над тем временем, когда генеративные инструменты ИИ учили друг друга создавать контент. А может быть, они уже приготовляют для нас какое-то новое зрелище — к примеру, спектакль написанный и поставленный целиком ИИ? Кто его знает!