OpenAI представила новые правила по борьбе с хакерскими атаками ИИ

Разработчик ChatGPT компания OpenAI представила новые правила, которые должны предотвратить взломы и другие нарушения инструкций со стороны ее агентов искусственного интеллекта (ИИ). Они предусматривают более эффективное отслеживание действий ИИ-агентов, выявление «неожиданного или вызывающего беспокойство» поведения, изучение случаев нарушений инструкций.

Заголовки и краткие цитаты приведены со ссылкой на источник в порядке информирования. Полные тексты доступны на сайтах изданий, права на них принадлежат правообладателям.