Руководитель направления робототехники OpenAI Кейтлин Калиновски объявила о своём уходе из компании. Причиной отставки стало несогласие с тем, как быстро компания заключила соглашение с Министерство обороны США.
По словам Калиновски, контракт был подписан до того, как в нём появились необходимые механизмы безопасности для использования нейросетей. Она подчеркнула, что вопросы возможной слежки за гражданами США и применения автономных боевых систем на базе ИИ требовали более тщательной проработки.
Сотрудничество OpenAI с Пентагоном началось после того, как министерство прекратило работу с компанией Anthropic. Стороны не смогли договориться о допустимых ограничениях на использование искусственного интеллекта при выполнении некоторых военных задач.
В комментарии изданию Engadget представители OpenAI заявили, что компания выступает против сценариев использования ИИ, о которых говорила Калиновски. В частности, в переговорах с Пентагоном были обозначены «красные линии» — запрет на слежку за гражданами США и использование полностью автономного оружия.
Однако глава компании Сэм Альтман отметил, что в текущей версии контракта такие ограничения могут быть прописаны не полностью. Не исключено, что соответствующие пункты будут добавлены в соглашение позднее.
