Держаться.

OpenAI поделился первым публичным отчетом о том, сколько пользователей чата жпт во всем мире могут проявлять признаки серьезного психического кризиса в течение обычной недели.

Около 0,07% пользователей (где-то 560 тыс. человек в неделю) демонстрируют признаки мании или психоза, а около 0,15% ( +/- 2,4 млн человек) ведут диалоги, где явно присутствуют намеки на суицидальные мысли или таковые намерения.

Компания заявила, что сотрудничает с психиатрами и экспертами по ментальному здоровью по всему миру, чтобы сделать чат более способным распознавать тревожные сигналы и направлять пользователей к реальной помощи (тип в кризисные службы); поводом для анализа послужили реальные инциденты последних месяцев: люди попадали в больницы, разводились или умирали после длительных эмоциональных разговоров с gpt. Родственники тех утверждают, что чатбот усиливал их бред или паранойю. У такого явления уже есть и название — AI psychosis, т.е., ии-психоз.

Что предприняли еще: медицинские эксперты изучили 1800 ответов модели на темы психоза, суицида и эмоциональной зависимости и сравнили версии 4o и последнюю — 5. Результат: новая модель снизила долю «нежелательных» ответов на 39–52%.

Представители OpenAI обещают, что система будет лучше работать с уязвимыми пользователями и раньше предотвращать кризисы. Но признают, что данные пока неполные, и вообще — это только начало исследований влияния ai на психо-эмоциональное состояние людей.

Моя напоминалка тем, кто заигрался: жпт и прочие — это бесхребетное нечто без характера, которое говорит только то, что пользователь хочет слышать, и потому ждать от него правды или дельного совета не стоит. По крайней мере, сейчас, на 2025 год.