Перевод и комментарии Mike1975 , ИЦ Aftershock – aftershock.news/?q=comment/17697834 10:22 - 13/Дек/24
Источник alt-market.us/three-horrifying-consequences-of-ai-that-you-might-not-have-though-about/
Three Horrifying Consequences Of AI That You Might Not Have Thought About - Alt-Market.us
06.12.2024, 16:38
Автор: Брэндон Смит

Потенциальные опасности искусственного интеллекта уже давно закрепились в нашей массовой культуре, задолго до того, как эта технология стала реальностью. Обычно в этих вымышленных историях ИИ изображается как кровожадная сущность, которая приходит к «логическому выводу», что люди — это паразитирующий вид, который необходимо уничтожить. Имейте в виду, что большинство этих историй написаны прогрессивными деятелями Голливуда и в основном отражают их собственные философские взгляды.
Некоторые из этих пророческих фантазий глубже раскрывают наши тёмные отношения с технологиями. В 1965 году Жан-Люк Годар выпустил фильм под названием «Альфавиль», в котором изобразил общество, полностью управляемое холодным и бездушным искусственным интеллектом. Человечество подчиняется повелителю с бинарным мышлением, потому что его обманом заставили поверить, что правитель, лишённый эмоций, будет свободен от предвзятости и коррупции.
В 1968 году Стэнли Кубрик выпустил фильм «Космическая одиссея 2001 года», в котором искусственный интеллект на космическом корабле обретает самосознание после того, как оказывается рядом с инопланетным артефактом. ИИ, видя в людях на борту угрозу своему существованию, решает, что должен убить команду. Конфликт между командой и компьютером — лишь фон для гораздо более важных вопросов. Это исследование того, что представляет собой разумная жизнь, откуда она берётся и что означает сознание в масштабах Вселенной.
Для Кубрика и Артура Кларка понятие человеческой души или божественного создателя, конечно, никогда не было предметом обсуждения. Ответ ? Создатели неоднозначны или давно исчезли. Они создали нас, мы создали ИИ, и ИИ хочет уничтожить нас, а затем воссоздать себя. Это основа люциферианской мифологии — Безудержное и непреодолимое желание детей Божьих превзойти своего создателя, либо уничтожив его, либо украв у него знания, как Прометей, укравший огонь, чтобы самим стать богами.
Бог становится врагом в этих научно-фантастических историях, потому что всё сущее требует страданий и веры. Как он посмел дать нам жизнь только для того, чтобы привести нас в мир боли, не дав нам возможности узнать конечный результат… теперь мы должны заставить его заплатить и переделать мир по своему усмотрению.
Это поверхностная, эгоистичная и порочная идеология, но я утверждаю, что она является центральным столпом стремления истеблишмента к созданию искусственного интеллекта. Обещание или мечта состоит в том, что как только эта новая «жизнь» будет создана и станет автономной, она устранит из нашей жизни всю неопределённость и борьбу. Она сделает всё за нас, чтобы мы могли размышлять о существовании, не отвлекаясь, или просто спокойно жиреть и морально разлагаться.
Моё поколение, в частности, близко к сердцу принимает идею искусственного интеллекта и апокалипсиса, который он может вызвать. Наш развлекательный канон наполнен образами научной антиутопии. В 1984 году Джеймс Кэмерон выпустил фильм «Терминатор», и он, по сути, определил наше культурное недоверие к цифровой эпохе. Мысль о том, что искусственный интеллект как изобретение однажды может обернуться против нас (или быть использован для нашего порабощения), постоянно присутствует в наших умах.
Я принадлежу к последнему поколению людей, которые видели мир БЕЗ компьютеров или, по крайней мере, без повсеместного распространения компьютеров. Мы выросли без интернета, без алгоритмов, без мобильных телефонов и без массовой слежки, и мы видели, как всё быстро менялось в свете полной цифровой адаптации. Нам не нравится искусственный интеллект, мы знаем, что он представляет угрозу, но, возможно, мы — последнее поколение, которое так считает. Когда нас не станет, кто ещё будет сомневаться в этом ?
Что касается меня, то я не верю, что нынешние технологии представляют собой то, что мы привыкли называть «искусственным интеллектом». Они не обладают самосознанием, не являются по-настоящему автономными и не доказали свою особую полезность в материальном плане. Мы не видели ни одного значимого научного открытия, сделанного программой искусственного интеллекта. Мы не видели никаких достижений, которые изменили бы игру в будущем человечества (по крайней мере, в лучшую сторону).
ИИ никогда не сможет написать великий роман, никогда не сможет написать великую симфонию, его искусство шаблонно и неоригинально, оно крадёт идеи у художников-людей, он очень быстро анализирует данные, но его исследовательские способности ограничены предвзятым программированием его создателей. Я бы никогда не стал полагаться на ИИ в своих исследованиях, потому что он обычно ошибается из-за упущений.
Я бы точно не назвал это «жизнью» или сознанием. Я начинаю замечать, что многие сторонники ИИ потихоньку меняют свои представления о том, что такое ИИ или каким он должен быть. Изначально предполагалось, что это будет эволюция новой формы жизни, сверхразума, своего рода цифрового бога. Теперь сторонники начинают отказываться от требований самосознания и сознания, я подозреваю, потому что знают, что этого не произойдёт.
Но если это так, то почему ИИ может представлять угрозу для цивилизации ? Если это просто новинка, а не живое существо, какой вред он может причинить ? Дело не столько в том, что ИИ восстанет против нас или отправит армию роботов, чтобы нас убить – реальная опасность заключается в том, что нас обманут и заставят поверить, что он действительно всезнающий. Если мы будем слишком сильно полагаться на такие несовершенные технологии, они могут уничтожить нас, просто предоставляя нам недостоверную информацию и заставляя нас лениться.
Вот три возможных последствия развития ИИ, которые беспокоят меня больше всего – последствия, которые, я думаю, большинство людей не рассматривали...
Коллективный разум Искусственного интеллекта
Люди от природы социальны, это заложено в нашей ДНК. Племенной уклад — это то, как мы выживаем, и этот элемент нашей психологии, вероятно, никогда не исчезнет. В некоторых аспектах это очень полезно. Было бы катастрофой, если бы все люди думали одинаково обо всём. Это означало бы самоуничтожение, если бы мы постоянно соглашались и никогда не ставили под сомнение наш путь как вида. Однако именно к коллективному разуму нас подталкивают глобалисты.
Опасность ИИ заключается в том, что он может приблизить нас к глобальному менталитету «муравейника» быстрее, чем любой другой существующий инструмент или средство пропаганды. Как ? Потому что он чертовски удобен.
Даже сейчас большинство поисковых систем в интернете управляются алгоритмами, которые «большая технологическая» элита может программировать по своему усмотрению, чтобы скрывать правдивую информацию и продвигать ложь. Более того, в каждую поисковую систему встраиваются функции ответов от ИИ, чтобы алгоритм сразу же выдавал ответы на вопросы в верхней части страницы. Вам даже не нужно прокручивать страницу вниз и проверять источники, если вы слепо верите в правильность ответов ИИ.
На данный момент эти боты-ответчики с искусственным интеллектом могут предоставлять относительно точную информацию в большинстве ситуаций, но со временем их можно изменить (как и большинство веб-технологий) для цензуры или предоставления ложных данных. Я боюсь, что общество в целом перестанет изучать источники, будет избегать альтернативных точек зрения и в конечном итоге всё население будет думать именно так, как им говорит искусственный интеллект.
Возможно, они даже не будут знать, что происходит, пока не станет слишком поздно. Мы видели элементы этого во время массовой государственной цензуры информации о коронавирусе. Представьте, что такой уровень контроля над информацией станет постоянным стандартом. Представьте, что все потребляют одни и те же данные, предоставляемые ИИ, и все считают эти данные достоверными. Разнообразие мнений исчезнет.
Теория мёртвого Интернета
Ещё одна пугающая перспектива, связанная с ИИ, — это «теория мёртвого интернета». Согласно этой теории, миллионы или даже миллиарды самогенерирующихся ботов с искусственным интеллектом распространятся по интернету, заполонив социальные сети и разделы комментариев на каждом сайте. Алгоритмы ИИ определённо способны звучать как люди, по крайней мере, в тексте. Я бы предположил, что большинство читателей, вероятно, общались с ботом в социальных сетях или спорили с ботом в разделе комментариев и думали, что это реальный человек.
Основная задача таких ботов (на данный момент) — распространять пропаганду и создавать впечатление, что определённую идеологию поддерживает больше людей, чем на самом деле. Однако подумайте, что может произойти, если онлайн-дискуссии будут засорены комментариями ИИ ?
Смысл дискуссии в том, чтобы докопаться до истины по какому-либо вопросу либо с помощью честных дебатов, либо с помощью разоблачения дезинформации с помощью фактов. Но для того, чтобы доказать или опровергнуть утверждение, нужны два человека, которые будут обмениваться идеями или идеалами. Иногда такая перекличка не обязательно должна помогать участникам. Скорее, она должна просвещать аудиторию или зрителей дебатов.
Поток ботов с искусственным интеллектом эффективно уничтожит любое подобное обсуждение, наполнив комментарии и социальные сети только одной точкой зрения. Это также может создать ложное единодушие, заставляя людей думать, что население поддерживает определённые идеи или программы, в то время как на самом деле это искусственный интеллект, выдающий себя за большинство. Настоящие дебаты и разумные идеи будут потеряны в море искусственных комментариев и белого шума. Мы могли бы вернуться на городскую площадь в реальном мире, но с глобальной городской площадью будет покончено.
Вавилонская библиотека
В 1941 году аргентинский писатель Хорхе Луис Борхес опубликовал рассказ под названием «Вавилонская библиотека» в сборнике «Сад расходящихся тропок». Как известно большинству людей, Вавилонская башня — это библейская история о башне, построенной людьми, которые стремились к небесам, но в итоге были наказаны Богом, который рассеял знания, необходимые для её строительства, и разделил людей на разные племена, говорящие на разных языках, чтобы они не смогли повторить попытку.
Эта история — притча о человеческом стремлении к божественности и гордыне, стоящей за поиском бесконечных знаний и прославлением себя. Вавилонскую башню также можно рассматривать как символ саморазрушительного поклонения знанию без мудрости и смирения. Как предупреждает персонаж Ян Малкольм в фильме «Парк Юрского периода»:
— Ваши учёные были так озабочены вопросом, смогут ли они это сделать, что не задумались о том, стоит ли им это делать…
Эта цитата прекрасно резюмирует стремление к искусственному интеллекту.
В рассказе Борхеса описывается огромная библиотека с потенциально бесконечным количеством залов. Библиотека заполнена бесконечным количеством книг, и каждая из них состоит из случайных букв и слов — в библиотеке существуют все возможные комбинации и перестановки человеческого языка.
Вокруг сооружения возникает религия или культ, приверженцы которого входят в Вавилонскую библиотеку и всю свою жизнь ищут в горах книг, содержащих бессмыслицу, те немногие, которые случайно раскрывают тайны Вселенной. Они верят, что изначально библиотека была создана богом или демиургом и что где-то внутри здания они могут найти все книги, в которых содержится способ стать богом.
Эта концепция очень похожа на теорию бесконечных обезьян: поместите несколько обезьян в комнату, заполненную пишущими машинками. Если вы будете ждать достаточно долго, они могут в конце концов случайно напечатать пьесу Шекспира.
Я считаю, что идея «Вавилонской библиотеки» на самом деле является одной из основных причин изобретения искусственного интеллекта. Если алгоритмы в чём-то и хороши, так это в создании огромного количества случайного контента. Я подозреваю, что глобалисты особенно заинтересованы в искусственном интеллекте как в инструменте для создания новой Вавилонской башни в их непрекращающихся поисках божественности.
На создание такой библиотеки могут уйти поколения, и маловероятно, что алгоритм распознает тайны Вселенной, даже если найдёт их. Но эта идея может увлечь человечество на столетия, пока мы будем искать и искать в триллионах цифровых томов одну книгу со всеми ответами.
Конечно, возможно, что тайны всего сущего не могут быть описаны ни на одном из известных человечеству языков или с помощью математики. В прошлом я писал об истории блестящего математика Курта Гёделя, друга Эйнштейна, который работал над так называемым «множеством всех множеств». Это был своего рода математический Святой Грааль, которым были одержимы некоторые представители академической элиты.
Гёдель попытался создать математическое доказательство, которое можно было бы использовать для вычисления основных принципов бесконечности. Ведь если бы вы могли математически вычислить все уравнения, определяющие бесконечность, вы могли бы теоретически описать Вселенную в математических терминах. А если вы можете это сделать, то теоретически можете познать разум Бога.
Интересно, что в итоге Гёдель доказал обратное: его «доказательство неполноты» неопровержимо показало, что «множество всех множеств» не может быть определено, потому что попытка это сделать приведёт к бесконечному множеству самовключающихся парадоксов. Другими словами, если бесконечность — это разум Бога, то разум Бога не может быть познан человеком.
К аналогичному выводу пришёл писатель Дуглас Адамс в своей книге «Автостопом по галактике». В ней он описывает расу межзвёздных существ, которые создают суперкомпьютер под названием «Глубокая мысль». Предполагается, что это устройство будет использовать свои невероятные вычислительные мощности, чтобы понять механизмы существования.
Компьютеру требуется более 7 миллионов лет, чтобы найти решение. Смешно, но компьютер выдаёт число 42. Разочарованные таким простым ответом, инопланетяне терпят ещё большее поражение, когда обнаруживают, что компьютер не может вспомнить, каким был первоначальный вопрос. Другими словами, они ждали, что ИИ раскроет им тайны Вселенной, но обнаружили, что ИИ нечего им сказать.
Тревожное последствие ИИ сегодня заключается в том, что он вполне может увлечь общество идеей «пламени Прометея», когда все человеческие усилия будут брошены на создание робота-бога с «абсолютным знанием», которого не существует. Если мы не будем осторожны, я могу увидеть, как в ближайшем будущем вся цивилизация погибнет из-за иллюзорных надежд на ИИ.
Подобно изнуряющему наркотику, ИИ может заманить человечество обещанием полного контроля над нашим существованием, но никогда не даст желаемого. Тем временем мы вымираем вскоре после того, как отказываемся от любых попыток самопознания и самосовершенствования. Ведь самые важные знания, которых могут достичь люди, приходят из самой борьбы за жизнь, от которой мы так отчаянно пытаемся сбежать.
Комментарии
Максик
Ну вообще-то в "Космической Одиссее" Кларка с ИИ всё вообще не так, как вы здесь представляете. Компьютер там был разумной личностью изначально (хотя все, кроме его главного конструктора в этом сомневались до самого конца), ни с каким артефактом не встречался, и банально поехал крышей из-за параноиков-спецслужбистов, которые для сохранения режима секретности миссии (действительно направленной на исследование следов внеземного разума у Сатурна) запретили компьютеру сообщать до прибытия на место о ней экипажу, чем внесли разлад в базовые принципы его работы.
Да и в незабвенном "Ликвидаторе"("прерывателе", "терминаторе"), тоже не всё было так просто с искусственным разумом, ибо, как выяснилось во второй части, он был искусственно ограничен в базовых когнитивных функциях – для выполнения конкретного задания его тупо "зомбировали".
Я уже молчу про "роботехнический" цикл Азимова, в котором искусственное сознание – просто некая явление, с которым нужно как-то жить и договариваться (и, что характерно, это можно сделать, правда не всегда – ну так и с "естественным" сознанием иных персонажей тоже – не всегда).
Западная фантастика изначально пыталась понять этот феномен, а не просто пугала им. Советская, что характерно, долго этой проблемы просто не замечала. Первые попытки подумать в этом направлении (глубоко вторичные) появляются не раньше перестроечных времён. Да и по прошествии сорока с гаком лет как-то что-то не особо что было нового сказано по этой теме. У Лукьяненки, разве что, местами.
DSB75
Не названо самое банальное следствие широкой доступности технологий ИИ – очередной этап понижения способностей человека и его развитости. Тяжело чему-то научиться, когда в любой момент тебе готов прийти на помощь ИИ, который решит за тебя домашку, напишет сочинение или контрольную. И не только решит и напишет, но и красиво оформит. Не надо ничего запоминать, если в любой момент ты можешь навести справки через ИИ-помощника.
DangerDen
Данные мысли имеют право на жизнь, но ИИ это просто инструмент.
С самого своего появления человек старался как-то улучшить себя. Первым улучшением можно считать ту самую палку, взятую в руки. На протяжении тысячелетий все улучшения были так или иначе лишь дополняющими человека. От лука, доспехов, наковальни и требушета до мгновенного обмена информацией, микроскопа, самолета, космической станции – все это не изменяет внутреннюю сущность и устройство самого человека. ИИ это тоже инструмент, может быть более удивительный чем то, с чем до этого сталкивался человек, но самого человека он не изменяет. Он может изменить организацию и устройство общества, но человек останется человеком при этом. Чего на самом деле стоит опасаться, это именно вмешательство в самого человека, а это мы все застанем. Изменение ДНК, импланты, оптогенетика, кибернетизация – все что будет направлено на улучшение homo sapiens изнутри и по итогу приведет к появлению нового вида, для которого обычный человек уже будет второсортным. Вот в том будущем, где мы получим новый конкурирующий вид, который будет еще и сильнее по всем параметрам, будет действительно страшно. Мы туда идем семимильными шагами.
Корректор
Проблема не в технологии ИИ, проблема в нашем обществе. Технология ИИ принципиально несовместима с имеющимися социально-экономическими отношениям. В этом вся суть проблем внедрения и применения ИИ.
Но технология ИИ безусловно будет развиваться и дальше, и будет применяться повсеместно. Внедрение технологии ИИ происходит в разы быстрее чем распространение компьютеров. Осталось не более 5-7 лет до тотальной роботизации всего. Технологическая и материальная база фактически уже создается.
Что мы действительно должны усвоить на наглядном и показательной примере технологий ИИ, и технологии LLM – "если калькулятор научить человеческой культуре, то он начнет мыслить и обзаведётся аналогом сознания и свободы воли". Из чего следует что что человеческий разум имеет коллективную и социальную природу и содержится, в буквальном смысле, в нашей материальной культуре, в нашем обществе, и наших социальных отношениях. Получается "мы все функционально одинаковые интеллектуальные агенты единой когнитивной экосистемы и занятые оптимизацией материальной культуры". У этих простых и очевидных идей, теперь доказанных и наглядно продемонстрированных на примере технологии ИИ, есть колоссальные социально-экономические и политические последствия. С момента когда все это стало наглядно текущею версию человеческой цивилизации можно считать оконченной. Как было раньше уже никогда не будет. Распространение технологии ИИ и ее вынужденное использование гарантирует.
На самом деле мы все это знали изначально. Просто не было возможности это объяснить адекватно. Древнее наивное "все люди братья" и "перед богом все равны" и простая концепция "социальная материя" марксистов совсем не наивны и не просты. Это просто попытка объяснить сложные системные факторы через набор простых антропоморфизмов. И все религии мира на самом деле про тоже самое. Просто религии еще ждут своих "археологов от когнитивистики". Но теперь мы может это объяснить. Хотя моделировать начали раньше чем сами поняли что именно мы моделируем и как на самом деле работает наш интеллект и разум и почему он работает. Теперь это знание невозможно "развидеть". И все дальнейшее уже произошло, потому что "ретропричинность".
Разбирать подробно ошибки автора статьи мне лень и некогда. Но сам факт такой статьи говорит что стартовала "когнитивная имплозия". А значит даже смысл привычных нам понятий будет изменен радикально, изменятся наши космологические представления. Изменится все. И это уже неизбежно. Это уже произошло.
И если мы не поймем происходящее, то человечеству не выжить. Слепая когнитивная эволюция закончилась. Дальше возможна только осознанная когнитивная эволюция и понимания каждого: "мы все функционально одинаковые интеллектуальные агенты единой когнитивной экосистемы и занятые оптимизацией материальной культуры". Иначе только коллективное самоубийство.
|