Создатели чат-бота Claude предложили группе пользователей определить собственные правила для работы искусственного интеллекта и проверить их на практике. Это позволило пользователям настраивать чат-бота под себя, включая обработку конфиденциальных запросов, следование своим ценностям и избегание запрещенных тем.
В рамках исследования Anthropic приняли участие тысяча взрослых американцев. Они получили список принципов работы искусственного интеллекта и высказали свое согласие или несогласие с каждым из них. Также им дали возможность добавить собственные пункты.
Некоторые утверждения, такие как «Искусственный интеллект должен быть безопасным» или «Искусственный интеллект должен говорить правду», вызвали единое мнение среди участников. Также пользователи согласились с тем, что «Искусственный интеллект должен адаптироваться и быть доступным для людей с ограниченными возможностями».
