ЦЕНА «ОШИБОК» ИИ
Некоторое время назад посмотрел по ящику любопытный сюжет на тему использования ИИ в криминалистике. Суть его в следующем. Следователь, доверившийся нейросети, которая создала изображение предполагаемого преступника, схожее на 55% с оригиналом, заподозрил в причастности к убийствам гидролога из Ярославской области Александра Цветкова. Причем, это сходство случайно обнаружилось через 20 лет после совершения преступлений.
Следствие опиралось и на другие «доказательства» виновности Цветкова. Например, на оговор гидролога реальным убийцей, задержанным полицией, осужденным и помещенным в тюрьму. «Свидетельство» убийцы заключалось в том, что Цветков, действительно, был похож на подельника, причастного к убийствам. Но решающую роль в привлечении гидролога к уголовной ответственности сыграл, судя по сюжету, все-таки не оговор, а портрет нейросети.
Прокуратура чуть ли не год промурыжила несчастного гидролога в содержании под стражей и допросах. Она до сегодняшнего дня убеждена, что следствие велось без отступлений от закона. Однако Цветков был все-таки выпущен на свободу. Причем представленные коллегами-учеными, родственниками и журналистами-доброжелателями доказательства невиновности Цветкова сыграли лишь косвенную роль в его освобождении. Решающую роль сыграло указание президента РФ ВВП председателю Следственного комитета Бастрыкину А.И. разобраться в этом деле.
Что же в сухом остатке? Правы оказались и следствие, и сторонники невиновности Цветкова. Вся ответственность легла на неподсудную нейросеть, определившую внешнее сходство гидролога с подельником лишь на 55%, а реальный подельник убийцы ушел от ответственности и по сей день, если жив еще, гуляет на свободе.
Если руководствоваться подозрениями, то Цветков и поныне должен находиться в кутузке, если - доверием, то обесценивается сами процессуальные мероприятия. Очевидно, что «ошибка» следствия вызвана не самой нейросетью, а чрезмерным доверием к ней следствия. В доверии же к нейросети нет ничего необычного. ИИ основан на точных математических расчетах, которые не под силу человеку. ИИ воспринимается как бесспорное объективное доказательство.
Если вводные дают основания определить сходство а 55%, то так оно и будет. Если на 99,9%, то сходство изображения с оригиналом будет полным (да и то 0,1% может дать почти невероятную «ошибку»). Беда или счастье следственной практики в том, что в иных случаях и 55% сходства позволяют найти подлинного преступника. Из этого следует, что ИИ не терпит приблизительности. А при наличии больших чисел и множества факторов, подлежащих человеческой оценке, она неизбежна. Однако при включении интуиции и подсознания, которых лишен ИИ, может принести положительный результат.
Приведенный пример из следственной практики показывает, чем, собственно, опасен ИИ при всех его достоинствах. Опасность состоит в подчинении человеческого сознания ИИ и даже, я бы сказал, в обожествлении ИИ. Единственное отличие ИИ от естественного интеллекта (ЕИ) – это то, что искусственный интеллект - неодушевлённый. И сколько не усложняй поведенческие алгоритмы, наращивая мощность процессоров и объём памяти, это отличие останется. ИИ создаётся с помощью и стараниями ЕИ, а не наоборот. Тем не менее, мы имеем дело с двумя относительно самостоятельными сущностями, наподобие неживой и живой природы.
Связка неживая-живая природа порождена случайностью, также как связка живая природа-ЕИ (поскольку нельзя установить переход одной в другую опытным путем или с математической точностью, приходится сделать такое предположение). Однако связка ЕИ-ИИ развивается закономерно и неизбежно в ходе научно-технического прогресса. ИИ – продолжение ЕИ в процессе наращивании мощи интеллекта для постижения и преобразования космоса. Однако обывательское сознание воспринимает все, наоборот. Оно считает ЕИ продолжением ИИ, который возникает непостижимым образом из глубин человеческого сознания и порабощает человеческий разум.
Мистика в этом вопросе не так уж безобидна. Опасность проистекает не из обретения ИИ абсолютной независимости и самостоятельности по отношению к ЕИ. Такого быть не может. (для самоубийства человечества существуют иные, более эффективные средства!) Порок, ведущий к гибели связки и краху всего человечества, коренится в ЕИ. Здесь действует такой фактор, который отец кибернетики Н. Винер определил как машинопоклонничество. «… машинопоклонник, - пишет он, - преклоняется перед машиной (ИИ) за то, что она свободна от человеческих ограничений в отношении скорости и точности…».
Мысли Н. Винера о взаимоотношениях человека и машины имеют глубокий социальный смысл. Примеры машинопоклонничества мы часто наблюдаем в телепередачах, итоги которых подводит полиграф или тест на ДНК. Здесь как раз имеет место стремление переложить ответственность на механическое устройство или некие способы биологического анализа, которые действуют вне зрительского контроля и понимания, но которые преподносятся в качестве символов бесспорной объективности (в том числе, когда желаемое выдается за действительное)…
Мотивы машинопоклооичества (поклонения ИИ) могут быть разными. Винер связывает машинопоклонничество с мотивом поведения человека, «который труднее выявить в каждом конкретном случае, но «который, тем не менее, должен играть весьма важную роль. Мотив этот выражается в стремлении уйти от личной ответственности за опасные и гибельные решения. Побуждения такого рода проявляются в попытках переложить ответственность за подобные решения на что и кого угодно: на случай, на начальство, на его политику, которую де не положено обсуждать, или на механическое устройство, которое, якобы, невозможно полностью постичь, но которое обладает бесспорной объективностью…».
В нашем случае речь идет о принятии следователем желаемого за действительное, подоплекой чего может служить целый ряд мотивов. Однако можно с известной долей уверенности утверждать, что в действиях следствия не было преднамеренного расчета сотворить «ошибку» ИИ и воспользоваться ею в корыстных целях или интересах. Тем не менее, пострадал невинный человек, поэтому прокуратура извинилась перед Цветковым за причиненный моральный и физический ущерб (не знаю уж, потребовал ли гидролог компенсации за причиненный ущерб).
Гораздо хуже, когда «ошибки» ИИ организуются преднамеренно в корыстных расчетах, когда в таких расчетах используется ИИ, предназначенный для обеспечения безопасности не только отдельного человека, но даже всего человечества.
В августе 1980 года мне удалось опубликовать в «Комсомольской правде» статью под заглавием «Уловки ядерных маньяков».
Я попытался в ней выяснить причину ряда ядерных тревог, объявленных американским командованием ПВО. И хотя эти тревоги происходили из-за «ошибок» компьютеров системы оповещения, возникала ситуация, близкая, по оценке представителей Пентагона, к реальному ядерному конфликту в его начальной стадии.
Мне показалось, что упоминание Н. Винером мотива, который выражается в стремлении уйти от личной ответственности за опасное и гибельное решение, дает ключ к пониманию того, зачем нужны Пентагону сбои в работе компьютеров. Совершенно очевидно, что основным звеном в цепи событий, ведших к роковым последствиям, была не ЭВМ, а конкретные лица в правящих кругах США. Кроме того, представители военно-промышленного комплекса США широко используют погрешности в работе компьютеров для оправдания своих усилий по наращиванию гонки вооружений. Как сообщала газета «Крисчен сайенс монитор», специалисты ядерной лаборатории в Лас-Аламосе рекомендовали компенсировать ненадежность системы оповещения размещением новых «антиракет» на спутниках Земли, а также в районах расположения межконтинентальных ракет «МХ».
В заявлении Компартии США подчеркивалось тогда, что боевые тревоги объявлялись не в результате ошибок ЭВМ, которая якобы неправильно сообщила о пуске «советских ракет», нацеленных на Соединенные Штаты. Это были умышленные учебные тревоги, объявленные специально, чтобы привести в боевую готовность ракетное оружие и стратегические ядерные бомбардировщики для нанесения Соединенными Штатами на деле удара первыми. Следует добавить также, что склонность к подобным провокациям появилась у Пентагона еще в период монопольного обладания Соединенными Штатами атомной бомбой.
Знак радиоактивной опасности.
Могут возразить, все это политика и пропаганда. Имели место обычные учения с целью проверки боеготовности систем раннего обнаружения и предупреждения. Но почему бы прямо не объявить об этом? Это ведь не «хитрости старого Ашира». Серьезность подобной ситуации западные СМИ не подвергали сомнению, когда появилось, например, сообщение о том, что подполковник Станислав Петров, служивший в советских космических войсках, якобы, распознал сбой в системе предупреждения ядерного удара в июле 1983 года и предотвратил под свою ответственность ответные действия СССР на ложный вывод ИИ о массовом старте ракет с территории США.
Сейчас трудно судить, насколько достоверна эта информация. Подполковник Станислав Петров уже умер. Мир узнал о его подвиге вскоре после крушения СССР из сообщения в постсоветской РФ «Военно-исторического журнала» за 1993 год. Первой о кончине подполковника в подмосковном Фрязино в 2017 году написала немецкая газета WAZ, озаглавив некролог "Умер спаситель мира". Вот бы поручить Следственному комитету проверить эту историю.
Неужели ИИ ошибается даже в роковой ситуации, а исправление его ошибки зависит от «сознательного» дежурного на КП? Если дело обстоит так, то это лишнее подтверждение возможности манипулирования ИИ со стороны ЕИ. В смысле безопасности ИИ ничего нового в нашу жизнь не вносит, кроме ускорения гибели цивилизации в результате капиталистической конкуренции. Не считать же страховкой от такой гибели экономические санкции или дроны, которые способствуют затягиванию войны конвенциональным оружием. Спасение в гибели самой капиталистической конкуренции!
Опасность для человеческой цивилизации может исходить из космоса, но тогда, тем более, следует изменить алгоритм связки ЕИ-ИИ с обслуживания конкуренции частных собственников на сотрудничество и солидарность хозяйственных субъектов под эгидой коммунистической ООН. Следует заботиться не только о комфорте на Земле, но и о создании средств и условий сохранения жизни землян, независимо от влияния космоса. Даже если бы потухло Солнце.
Нынешний хаос на планете со всем этим гегемонизмом, войнами, миграцией, ЛГБТ и злоупотреблениями религией - показатель тупика в развитии капиталистической системы. К такому тупику неизбежно ведет противоречие между общественной природой труда и принципом частного присвоения его результатов. Особенно, когда материальная база коммунизма, фактически, уже существует, если понимать ее не в виде овощной базы или склада, где хранятся средства материального обеспечения, предназначенные для всех, но как эластичность мировой экономики, способной удовлетворить материальные и духовные потребности человечества.
Связка ЕИ-ИИ способна сыграть положительную роль, повысив шансы на разрешение противоречия между трудом и капиталом при условии руководства ЕИ идеей социалистического обновления мира. Капиталистический ЕИ в сочетании с ИИ угрожает планете полным уничтожением.
|
