OpenAI разрабатывает план безопасности ИИ

Компания OpenAI, занимающаяся искусственным интеллектом, обнародовала план безопасности для своих передовых моделей ИИ. Согласно этому плану, совет директоров получает право отменять решения по вопросам безопасности. OpenAI, получающая поддержку от Microsoft, будет внедрять новейшие технологии только после подтверждения их безопасности в определённых областях, включая кибербезопасность и угрозы, связанные с ядерной энергетикой.

Для оценки отчётов о безопасности компания собирается создать консультативную группу, которая будет направлять свои выводы руководителям и совету директоров OpenAI. Хотя исполнительные решения будут приниматься руководителями, совет имеет возможность эти решения отменить.

С момента запуска ChatGPT год назад опасения, связанные с ИИ, стали актуальны для исследователей и широкой публики. Технология генеративного ИИ впечатляет способностью создавать стихи и эссе, но также вызывает беспокойство возможностью распространения дезинформации и манипуляцией людьми.

безопасность, технология, отмена