OpenAI выразила обеспокоенность по поводу потенциальной чрезмерной зависимости пользователей от своего нового голосового режима ChatGPT , который предлагает ответы в реальном времени, похожие на человеческие. Запущенная на прошлой неделе для премиум-пользователей, эта функция знаменует собой значительный скачок в том, чтобы сделать взаимодействие ИИ более реалистичным, включая возможность имитировать звуки человеческого разговора, такие как смех и прерывания.
В отчете компании по обзору безопасности подчеркиваются опасения, что реализм функции может привести к эмоциональным привязанностям, подобным тем, что показаны в фильме «Она», где мужчина влюбляется в своего помощника-ИИ. Сравнение стало более уместным, поскольку OpenAI отметила случаи, когда пользователи выражали личные связи с ИИ.
По данным OpenAI, новый голосовой режим может потенциально снизить потребность пользователей в человеческом контакте. Этот сценарий несет в себе как возможности, так и риски, поскольку он может составить компанию одиноким, но также может нарушить нормальное социальное поведение и отношения. Способность голосового инструмента различать эмоции усиливает его сложное влияние.
Эксперты, такие как Лизель Шараби из Университета штата Аризона, предупреждают о долгосрочных последствиях формирования глубоких отношений с развивающимися технологиями. В отчете OpenAI обсуждается более широкий контекст быстрого развертывания ИИ в обществе без полного понимания последствий, что отражает общую тенденцию в технологическом прогрессе и его непредвиденных применениях.
Некоторые пользователи уже сообщают о том, что они описывают как романтические помолвки с чат-ботами ИИ, вызывая дебаты среди специалистов по отношениям об этических аспектах таких взаимодействий. OpenAI признает эту динамику, предполагая, что технология может переопределить социальные нормы, особенно в отношении разговорной очередности и эмоциональных связей.
Несмотря на эти опасения, OpenAI остается приверженной ответственной разработке ИИ, продолжая следить за тем, как ее инструменты влияют на поведение человека. Компания подчеркивает свою приверженность безопасности, подчеркивая важность понимания психологического воздействия ее технологий, поскольку они все больше интегрируются в повседневную жизнь.
Этот разворачивающийся сценарий подчеркивает ключевую проблему в ИИ: баланс между инновациями и необходимостью этического надзора. Поскольку инструменты ИИ все больше внедряются в личную и профессиональную сферы, диалог об их влиянии на человеческие отношения и общественные нормы продолжает развиваться, чему способствуют как технологические достижения, так и пользовательский опыт.