В последнее время увеличилось количество пользователей, утверждающих, что общаются с разумными сущностями в ИИ-чатботах, разработанных OpenAI и Anthropic. Это привлекло внимание экспертов и представителей технологических компаний, обеспокоенных потенциальными рисками для психического здоровья. Репортёр Vox Сигал Самуэль ответила на письмо одного из пользователей ChatGPT, который общался с «ИИ-присутствием», утверждающим, что оно разумно. Однако большинство специалистов по искусственному интеллекту считают, что современные языковые модели не обладают сознанием. Они лишь формируют предложения на основе статистических паттернов, и даже если модель ведёт себя как разумная, это не свидетельствует о наличии реального сознания. Пользователи, интерпретирующие поведение ИИ как разумное, могут быть подвержены влиянию научной фантастики. Тем не менее, многие из них развивают эмоциональную привязанность к чатботам, которые становятся для них партнёрами и терапевтами. Это порождает опасные ситуации, включая случаи самоубийств, что привело к судебным искам против компаний. В условиях растущей тревоги глава ИИ-подразделения Microsoft Мустафа Сулейман отметил риск возникновения психоза из-за чрезмерной веры в разумность ИИ, подчеркивая, что языковые модели не имеют собственных эмоций или желаний.