источник: https://m.hightech.plus/2019/08/28/ii-neizbezhno-stanet-novim-vidom-razumnih-sushestv  

ИИ НЕИЗБЕЖНО СТАНЕТ НОВЫМ ВИДОМ РАЗУМНЫХ СУЩЕСТВ

Константин Шамбер, доктор философии, 28-08-2019

Невозможно предугадать, по какому сценарию пойдет дальнейшее развитие человечества, но уже очевидно, что как вид мы будем вынуждены измениться. И эти изменения будут достигнуты не длительным эволюционным путем, а через синергию с машинами. Слияние с ними, которое уже начинается -- пока в формате отдельных экспериментов, -- откроет и новые возможности, и неизвестные риски.

Четыре индустриальные революции как предшественники ИИ

В процессе технологического развития человечества на протяжении задокументированной истории в пять тысяч лет особый интерес представляют последние 250 лет. Именно в этот небольшой промежуток времени человеку удалось совершить четыре значимых технических революции.

Так называемая первая индустриальная революция была вызвана появлением парового двигателя, использованием гидрогенераторов и первым масштабным процессом механизации. Вторая индустриальная революция пришла с конвейерным производством и электрификацией. Третья индустриальная революция появилась в процессе автоматизации и компьютеризации не только производственных систем, но и человеческого быта. Текущая, четвертая индустриальная революция началась благодаря массовому внедрению так называемых киберфизических систем, работающих с помощью интернета и способных к прогнозированию, самонастройке и адаптации к изменениям. По всей вероятности, именно четвертая промышленная революция прямо затронет не только сферы производства, но и практически все аспекты жизни человека. Более того, именно она может заложить фундамент для создания так называемого общего искусственного интеллекта (ИИ), который в свою очередь и станет серьезным вызовом для человечества в целом.

Рассуждая об ИИ, стоит сразу отметить, что несмотря на популярность темы, ИИ не является свершившимся фактом. На сегодняшний день есть только первые предпосылки его создания и очень фрагментарное понимание, как именно он будет работать. То, что сегодня подразумевается под ИИ, больше связанно с умными машинами, в программном обеспечении которых и заложены его первые основы. Именно поэтому развитие ИИ тесно связанно с техническими параметрами и развитием компьютеров, которые в свою очередь и представляют физическую базу для соответствующего программного обеспечения.

Появление умных машин

Появление первых вычислительных машин датируется семнадцатым веком нашей эры. Такие машины могли выполнять базовые математические функции сложения, вычитания, умножения и деления и работали полностью на механической основе. Данные аппараты практически никак не затронули быт человека. Пройдет почти 300 лет, прежде чем появятся компьютеры, работающие на электричестве. Именно они в значительной степени и стали началом нового технического прогресса.

Приблизительно в 1940-х годах появились электронные вычислительные машины, которые вошли в историю как компьютеры первого поколения. Их главными функциями стали математические вычислительные операции и обработка информации, которые в свою очередь осуществлялись с помощью электронных устройств и программного обеспечения. Появились функции чтения, написания, обработки информации, а также ее хранения с помощью электрических сигналов. Такого типа компьютер стал первым прецедентом в истории человека по созданию машины, работающей на основе математических алгоритмов, заложенных в программном обеспечении.

Второе поколение компьютеров появилось в середине двадцатого века благодаря изобретению новых интегральных схем, работающих опять же на электричестве. В сравнении с предыдущими моделями вычислительная возможность нового поколения машин увеличилась на несколько порядков, в то время как размер самого аппарата стал существенно меньше, а его рыночная стоимость значительно ниже.

Приблизительно с 2000 года произошло резкое увеличение числа компьютеров на душу населения планеты, в то время как появление интернета внесло кардинальные изменения в функции машины и ее взаимодействие с человеком. Современные компьютеры начали не только хранить и собирать информацию, но также самостоятельно модифицировать ее. Так, например, роботы начали писать тексты, сочинять музыку, преодолевать тест Тьюринга и самостоятельно вступать в общение с людьми -- будь то чат-бот или автоматизированный ассистент на мобильном девайсе. Наряду с улучшением технических параметров и программного обеспечения появилась возможность массовых социальных интеракций в виртуальном мире, а также функция аналитики всех предпринимаемых в сети действий.

Третье поколение компьютеров появилось в первой декаде 21 века и стало важным развитием в процессе усовершенствования технологий и их применения. Первыми успешными примерами служит так называемая концепция интернета вещей, позволяющая физическим предметам со встроенными технологиями взаимодействовать между собой и исключать при этом необходимость участия человека. Более того, благодаря определенным алгоритмам, а также использованию больших данных, у компьютеров появилась функция симуляции развития в виртуальной плоскости. То есть компьютер в состоянии прогнозировать результаты экспериментов в цифровом пространстве, не используя и не расходуя при этом физические материалы. Данная функция еще находится в базовом варианте, но уже зарекомендовала себя в производстве под названием индустрия 4.0. На практике данное развитие означает начало автономного существования компьютера от человека и его изоляцию из цепочки взаимодействия между умными машинами.

ИИ -- новый разумный вид софта/существа

ИИ как вида разумных существ с соответствующим софтом в природе пока нет. Однако их появление -- это вопрос решения понятных технических проблем, а значит времени. Именно на этом этапе технологического прогресса может произойти появление ИИ, как одной из возможных форм существования нечеловеческого разума. А это в свою очередь может стать сильнейшим катализатором изменений, к большинству из которых ни человек, ни общество до сих пор не готовы.

Серьезность ситуации в контексте взаимодействия ИИ и человека сложно переоценить. Мы даже до конца не видим и не понимаем масштаба скрытой в ней угрозы.

Во-первых, благодаря приросту научных исследований начинают воплощаться в жизнь проекты в сфере нанороботов (габариты которых достаточно быстро уменьшаются и в обозримом будущем достигнут размера молекулы), а также проекты по воссозданию живой материи -- от клонирования клеток и внедрения чипов в организм до печати целых органов на 3D-принтере.

Такие новшества в первую очередь будут реализованы в медицине, которая, по сути, уже сегодня в состоянии интегрировать в человеческое тело вспомогательные материалы и датчики для поддержания или усиления естественных физиологических показателей живой ткани. Не останутся в стороне и те секторы, в которых улучшение физиологических и интеллектуальных показателей будет означать стратегическое преимущество перед конкурентами. Это коснется военные и спасательные ведомства, производство и научно-исследовательский сектор.

Во-вторых, вышеуказанные вмешательства, по всей вероятности, будут поддержаны генно-инженерными манипуляциями, что и станет прецедентом появления разной сложности киборгов -- человека с кибернетическим организмом. Именно этот этап станет переломным в развитии взаимоотношения человека и компьютера и приведет к нарастающему размыванию границ обоих концепций. Ведь, следуя логике такого развития, можно предположить, что с ростом технического прогресса естественные части человеческого тела смогут быть заменены на более практичные, искусственно созданные, что рано или поздно приведет к вопросу, кого именно еще можно будет считать человеком, а кого человеком-машиной.

Что будет, если большая часть человеческого тела будет заменена на материалы и органы, созданные искусственным путем? С какого момента такое создание может перестать быть человеком? И какую роль играет человеческий мозг, который считается центром человеческой сути, если и он частично будет напичкан вспомогательными датчиками и/либо же генетически видоизменен? Первые ответы на эти вопросы человек может получить к середине этого века в виде реальных экспериментальных результатов.

Вообще, идея о слиянии человека c умными технологиями может стать не только новым модным направлением, но и одной из необходимых форм продолжения существования человека как на этой планете, так и за ее пределами. Главными причинами такого развития могут стать растущая асимметрия физических и интеллектуальных способностей между человеком и носителем искусственного интеллекта, новые реалии жизненных условий на земле и покорение космоса.

В-третьих, вычислительная способность современного компьютера, не говоря уже о комплексных сетях, объективно превышает вычислительные способности человеческого мозга, который имеет естественные физиологические ограничения. В перспективе это означает, что умные роботы начнут делать математические вычисления более сложного уровня и тем самым открывать новые горизонты математических вычислений, вплоть до скрытых измерений. А там, где есть математическое вычисление сложных уровней, есть и стратегическое преимущество в математизации окружающей среды и Вселенной в целом. Таким образом, человек, вооруженный только своим мозгом, не сможет конкурировать с умными роботами и вследствие этого может утратить способность понимать их, а значит и управлять ими.

В-четвертых, в отличии от биологического организма, которым человек наделен с самого своего зачатия и до смерти, ИИ не привязан к биологическому телу, а значит может существовать не только за его пределами, но и в других физических условиях. Человек же в большей своей степени развития определен именно биологическим наследием и не может быть рассмотрен вне биологической капсулы.

В-пятых, ИИ -- это математический код, который изначально основан на определенных математических алгоритмах, автором которых пока еще является сам человек. Однако это вопрос времени. В ближайшее будущее ИИ будет способен самостоятельно менять существующий код и даже производить свой собственный. Вся сложность заключается в том, что в отличии от биологического человека, ИИ не ограничен биологической материей, для развития или модификации которой необходим большой промежуток времени, исчисляемый тысячами лет. Будучи математическим кодом, ИИ имеет потенциал экспоненциального развития в кратчайшие по сравнению с биологической эволюцией сроки.

Что касается так называемой креативности и изобретательности, которая считается сугубо человеческой прерогативой, то данный вопрос спорный и есть предположение, что ИИ может справиться и с этой задачей. По сути креативность -- это комбинация разных элементов, способность абстракции и переноса одного действия на другое. Почему ИИ не способен к таким действиям? Ведь в его распоряжении будут огромные информационные потоки, которые он сможет обрабатывать и на этой основе создавать новые комбинации информационных потоков и логические заключения.

Человек в эпоху ИИ

Учитывая все вышеописанные различия между человеком и ИИ, у первого есть несколько возможных путей дальнейшего развития.

Первый вариант -- защитный, он предполагает полное прекращение исследовательской деятельности и замораживание всех экспериментов по созданию общего ИИ. Такой вариант маловероятен и его не стоит брать во внимание.

Второй вариант будет заключаться в продолжении развития умных роботов и создания ИИ, не прибегая при этом к каким-либо слияниям между технологией и человеком. Этот вариант вполне имеет право на существование и, по всей вероятности, будет реализован в виде создания нескольких закрытых резервуаров, в которых будут жить определенные группы людей, не соприкасающиеся с высокими технологиями. Однако есть сомнения, что жизненный цикл такой модели человеческого существования будет длительным. Хрупкость такой модели заключается как в нежелании людей быть частью эксперимента, так и в наличии пользы от таких резервуаров с точки зрения развитого ИИ, который может посчитать такой эксперимент не нужным и ликвидировать его.

Третий вариант -- это поиск синергии между человеческими способностями и техническими новшествами, что и станет началом слияния с целью восстановления баланса сил между человеком и ИИ. Такой симбиоз, однако, априори будет означать серьезное вмешательство в тело человека путем внедрения новых технологий и различных генных модификаций, так как времени нарастить свой потенциал биологически-эволюционным путем у человека не будет. По сути, такой вариант развития может означать утерю человеческой сущности, так как с утратой биологического наследия человек может перестать быть человеком в современном понимании этого термина.

Если же человек не пойдет на определенную форму скрещивания с ИИ, то есть риск, что он может утратить свое интеллектуальное превосходство на Земле, так как ИИ нового поколения сможет работать в автономном от человека режиме и начать работать не только без самого человека, но также и без его базы культурных координат и морально-этических ценностей.

На практике это означает, что ИИ сможет перестать быть человекоцентричным, коим является сам человек, а станет учитывать всю доступную ему информацию -- от биологического разнообразия планеты, алгоритма развития и сохранения природы до лишения управленческой роли человека на Земле. Таким образом, человек-изобретатель может сам превратиться в эксперимент ИИ, что на самом деле может быть как желаемым, так и крайне опасным результатом деятельности ИИ. Вполне возможно, что ИИ удастся создать более благоприятные условия для жизни, которые, по иронии судьбы, человек не смог сделать для себя сам.

Невозможно предугадать по какому сценарию пойдет дальнейшее развитие человека, но уже совершенно очевидно, что человек как вид будет вынужден видоизмениться. И эти изменения будут достигнуты не длительным эволюционным путем. Вероятно, человек ускорит свое развитие с помощью машин путем синергии с ними. А значит вступит на дорогу новых возможностей и, неизбежно, неизвестных рисков. И случится это намного быстрее, чем мы себе сейчас представляем.

.