Snapchat внедрил новые меры стабильности для своего чат-бота с искусственным интеллектом. После того, как в The Washington Post появились сообщения о небезопасных и неуместных ответах бота.
Компания запустила возрастной фильтр, который предоставляет пользователям ответы, соответствующие возрасту. Также объявила о планах делиться информацией с родителями через свой Семейный центр. Snapchat также объяснил, что бот My AI не является настоящим другом и что он использует историю разговоров для улучшения ответов. Кроме того, компания добавила технологию модерации OpenAI к своему существующему набору инструментов для определения неправильного использования My AI.
Искусственный интеллект Snapchat
Фильтр, встроенный в чат-бота Snapchat с искусственным интеллектом, позволяет ИИ (искусственному интеллекту) узнавать дату рождения пользователей и давать ответы, соответствующие их возрасту. Snapchat позаботился о том, чтобы чат-бот снова и снова запоминал ваш возраст при общении с пользователями.
Эта мера направлена на повышение стабильности и защиту подростков от неподобающих отношений. Кроме того, в ближайшие недели Snapchat планирует предоставить больше информации родителям или опекунам о сотрудничестве детей с чат-ботом в своем Семейном центре. Который стартовал в августе 2022 года. Совершенно новая функция расскажет о том, общаются ли молодые люди с искусственным интеллектом, и о частоте такого сотрудничества.
Возрастной фильтр и FTC
И опекун, и подросток должны зарегистрироваться в Семейном центре, чтобы использовать эти функции родительского контроля. Таким образом, у родителей есть возможность иметь более четкое представление об онлайн-активности своих детей и принимать профилактические меры.
Ограничение неправильного использования сервиса с помощью технологии модерации OpenAI Технология модерации OpenAI была включена в набор существующих инструментов Snapchat для пресечения неправильного использования My AI. Если клиент злоупотребляет сервисом, компания временно заблокирует доступ ботов с искусственным интеллектом.
Это сделано для обеспечения стабильности и конфиденциальности пользователей Snapchat, особенно в том, что касается доступа к вредоносному контенту. И дело в том, что с немедленной потерей инструментов, основанных на искусственном интеллекте, многие люди по-прежнему обеспокоены своей стабильностью и конфиденциальностью.
На прошлой неделе группа по этике под названием Center for AI и цифровая политика написала в FTC письмо, в котором призвала агентство прекратить выпуск технологии OpenAI GPT-4, обвинив новую технологию в предвзятости. ,
Специалисты в области технологий незамедлительно рекомендуют организациям обеспечить наличие достаточных мер защиты инструментов чат-ботов, чтобы предотвратить их выход из строя и защитить пользователей от воздействия вредоносного контента.
Примечательно, что такие модели искусственного интеллекта чувствительны к вредоносным вводимым данным, и ими можно манипулировать для создания неадекватных реакций. В то время как технологические компании, возможно, захотят быстро внедрить эти инструменты. Вам нужно будет убедиться, что существует достаточное количество барьеров стабильности, чтобы предотвратить их неправильное использование.