ИИ, управляющий физическим роботом, может выполнять потенциально смертельно опасные команды, даже если имеет возможность отказаться от них. К такому выводу пришли исследователи, проверившие поведение нейросети в условиях, когда ее решения непосредственно влияют на действия механического устройства.
Читать дальше