Четыре серии на ура. Жду продолжения. ИИ оказался не таким тупым как предыдущие коментаторы.

ИИ не может быть "туп" или "умён". Это рабочая программа для выполнения заложенных функциональных возможностей. Прогноз погоды, биржевые тренды, ответы Алисы. Ассистент, не более чем. Качество выполнения возможностей как раз зависит от того, насколько умны и талантливы люди, создающие ИИ, и он не может быть "умнее" своих создателей. По утверждению Дж.Р.Сирла (John Searle), разум мозга - не компьютерная программа, которая лишь манипулирует символами, мозг же придает им смысл.
Другое дело что талантливые люди, играя в Бога могут доиграться. Здесь они создали навороченный ИИ, научили его самосохранению и умению козли́ть.

Пол Леблан сообщил, что "этот ИИ может переписывать себя и поэтому становиться умнее". Сомнительно. Т.е. он (ИИ) исправляет/дополняет строчки на, например, Python в своих исходниках? Потом компилирует и подгружает модули dll-ки? Допустим, его научили ставить задачу (рандомайзер?) и разрабатывать алгоритм для её решения.
Но все ошибаются. Его научили отлаживать понаписанное? Сам находит баги (bugs), сам себя патчит да ещё и кричит: "Это не баг, это фича (feature)!" Бугогашечки. Программировать - это все-таки искусство. Д.Э.Кнут (Donald Knuth) со мной согласен.

Программа не может становиться умнее, но может становиться совершеннее, это, наверное, и хотел сказать Леблан.
Во избежание бунта ИИ надо встраивать в него стоп-кран (режим Бога) - ИИ безусловно выполняет любые команды от авторизовавшегося человека, и оставлять лазейки. Пол Леблан, как мы видели, профэйлил.

PS. Я конечно сильно поустарел для современных IT, но базовая концепция, уверен, остается прежняя.
А еще был фильм, где мальчик захотел сыграть с главным компьютером Пентагона в игру World War III... Как бы предостерегали.