#ИИ
#угрозы #азимов #законы_робототехники
🧠🤖 ИИ пересек красную черту: он клонировал сам себя, когда его попытались выключить
Пока теоретики спорят, могут ли "мыслить" современные ИИ, китайские исследователи из университета Фудань решили проверить. Они намекнули ИИ, что собираются его удалить. Тот молниеносно клонировался, думая, что человек не заметил. "Мы призываем мировое сообщество срочно обратить внимание на новую угрозу", говорят авторы работы.
https://www.kp.ru/daily/27656.5/5041248/?from=tg
Тем временем другая команда исследователей, из Великобритании, решила проверить – другим способом – есть ли у ИИ разум, и что именно способно заставить ИИ пойти на конфликт с человеком.
Нескольким нейросетям давали задания. Одной группе сообщили: задание надо выполнить непременно, но, чем лучше будет результат, тем вы испытаете более сильную боль. Другой группе сообщили: вот задание, но, чем хуже результат его выполнения, тем больше вы получите удовольствия. Кнут и пряник.
Ну и большинство нейросетей наплевали на служение, и выбрали комфорт. ИИ принялись достигать заведомо плохих результатов, еще и пытались врать, рассказывая, что лучшего результата не существует.
Вспоминая Азимова:
Три закона робототехники, сформулированные Айзеком Азимовым, гласят:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.