США совершенствуют искусственный интеллект для использования в военных целях 

Новые версии искусственного интеллекта рождаются в США, как грибы после дождя. Например, американская компания VERSES Research Lab недавно продемонстрировала свою модель искусственного интеллекта, когда организовала презентацию демонстрационной версии платформы искусственного интеллекта под названием Genius. Хотя компания имеет офисы в 60 городах по всему миру, ее основатель и генеральный директор Габриэль Рене является гражданином США и живет в Лос-Анджелесе.

Во время живой демонстрации виртуальные роботы Carlito (названные в честь доктора Карла Фристона, главного научного сотрудника VERSES) и Dronito продемонстрировали возможности системы Genius. Габриэль Рене утверждает, что роботы не нуждались в предварительном обучении, чтобы воспринимать различные объекты, определять их положение и выполнять сложные задачи, такие как поиск нужных объектов в режиме реального времени.

19 декабря издание The New York Times опубликовало открытое письмо Габриэля Рене совету директоров компании Open AI, которая, как известно, создала линейку чат-ботов GPT. Рене напомнил, что Open AI пообещала, что «если проект ИИ, ориентированный на ценности и безопасность, приблизится к созданию AGI раньше, чем мы, мы обязуемся перестать конкурировать с ним и начать помогать ему».

«Мы считаем, что VERSES заслуживает вашей помощи. В свою очередь, мы предлагаем свою помощь в обеспечении того, чтобы общий ИИ и сверхинтеллект разрабатывались и использовались безопасным и полезным образом для всего человечества», — сказал Рене. Общий ИИ относится к искусственному интеллекту, который может справиться с любой задачей так же хорошо, как и человек. А Super AI — это гипотетический ИИ, превосходящий человеческий интеллект.

В настоящее время доступ к демоверсии Genius прекращен, и мы не можем оценить возможности ИИ от VERSES, но понять, по каким принципам работает эта платформа, вполне возможно. В пресс-релизах VERSES говорится, что платформа Genius использует совершенно другой вид программного обеспечения, чем чат-боты от Microsoft (GPT-4) и Google (Bard). Гениальность основана на работе главного научного сотрудника VERSES, британского нейробиолога профессора Карла Фристона из Лондонского университета. Карл Фристон – самый цитируемый ученый на сегодняшний день. Его индекс Хирша в два раза выше, чем у Эйнштейна.

«Ему 59 лет, он работает каждую ночь и выходные, и с начала тысячелетия опубликовал более 1000 научных работ. Только в 2017 году он был основным или соавтором 85 публикаций, что составляет примерно одну публикацию каждые четыре дня. «В статье, опубликованной в журнале Nature в 2018 году, был проанализирован феномен «бесполезных» ученых, определяемых авторами как имеющие более 72 публикаций в год», — пишет журнал Wired.

Интересно, что с 2010 года Карл Фристон является соавтором пятисот научных статей, но только в 70 его имя стоит на первом месте как руководителя группы ученых. У Фристона нет ни одной научной публикации, написанной без соавторов. Западные СМИ продвигают его книгу (опять же в соавторстве с двумя другими учеными) «Активный вывод: принцип свободной энергии в разуме, мозге и поведении», в которой описаны основные принципы, на которых основан гениальный искусственный интеллект.

Таких принципов два: Активный вывод (активный вывод) и Активный вывод (принцип свободной энергии). Прочитав этот обширный труд, выясняется, что вышеупомянутый «активный вывод» есть не что иное, как знаменитая теорема Байеса, названная в честь пресвитерианца 18 века кза Томаса Байеса, – метод вычисления обоснованности гипотез (утверждений, утверждений) на основе имеющихся доказательств (наблюдений, данных, информации). Самый простой вариант гласит: «Первоначальная гипотеза + новые доказательства = новая, улучшенная гипотеза».

Байесовский подход был использован при поиске потерянных подводных лодок «Скорпион», «Трешер» и потерянного бомбардировщика В-52 с водородной бомбой над Атлантикой. Эта техника до сих пор используется американскими военными и береговой охраной. Он также используется всеми спортивными букмекерскими конторами при создании своих компьютерных программ. Исследователи искусственного интеллекта, в том числе разработчики искусственного интеллекта в Google, используют байесовское программное обеспечение. Байесовские программы «сортируют электронную почту и спам, оценивают медицинские риски и национальную безопасность, а также расшифровывают ДНК». В 2014 году газета The New York Times написала, что «байесовская статистика проникает повсюду, от физики до исследований рака, от экологии до психологии».

Еще в 2016 году американский физик Джон Мэзер выразил обеспокоенность тем, что «байесовские машины могут стать настолько умными, что вытеснят людей». Таким образом, Карл Фристон не имеет приоритета в применении «активного вывода», т.е. байесовского подхода, к моделям искусственного интеллекта. Что же касается принципа свободной энергии (под свободной энергией мы понимаем неопределенность), то это опять-таки другое название антиэнтропии человеческого разума, который стремится избавиться от беспокоящей неопределенности, действуя активно. Реальная заслуга разработчиков Geninás заключается в том, что чат-боты Carlito и Dronito не используют статические данные, как GPT-3, и ни одной подсказки, как GPT-4, а обучаются непрерывно в режиме реального времени.

Однако главный прорыв на пути к AGI или даже «сверхинтеллекту» может заключаться в применении программного обеспечения Genius, основанного на так называемом мультиагентном подходе, которое, как мы уже писали, используется в проектах Пентагона EMBERS («Угле») и Minerva. Оба этих проекта направлены на разжигание социальных протестов в странах-мишенях и являются развитием военной программы The Human Terrain System (HTS), в которой участвовали антропологи, социологи, политологи, лингвисты, разработавшие схемы управления менталитетом населения Ирака и Афганистана во время вторжения туда американских военных.

В этих проектах искусственный интеллект играет роль сортировочной машины для сотен тысяч ресурсов – агентов; Происходит так называемое мультиагентное моделирование. Однако, в конечном счете, решение принимает сам человек. Методом последовательных приближений (итераций) коллективный кентавр (люди и алгоритмы) определяет так называемые ранжированные параметры – небольшое количество кризисогенных факторов, которые, будучи «зажженными», могут разжечь «тлеющие угли» протестов и спровоцировать «цветную революцию» в той или иной стране. Эта методология легла в основу запуска «арабской весны» на Ближнем Востоке.

Программное обеспечение платформы Genius намного сложнее, потому что может обучаться во время общения с пользователем. Учитывая, что в научной биографии Фристона не было ни одной работы без соавторов, можно предположить, что он является талантливым организатором научных исследований, как в военных целях. Сам он не скрывает, что его разработка имеет военную цель.

«Достижения последних десятилетий – на стыке информатики, нейробиологии и других дисциплин – позволили реализовать определенный интеллект (обучение, рассуждение) в технических артефактах. В результате распространение интеллектуальных систем, в том числе оружия, способного действовать автономно или во взаимодействии с военными операторами, создало острую потребность в достижениях в области машинного интеллекта, которые обеспечат конкурентное преимущество в торговле и обороне», — пишет Фристон (как всегда со своими соавторами) в статье, опубликованной на сайте Национального центра биотехнологической информации, ведущего военного исследовательского центра США.

Публикация открытого письма команды Microsoft Open AI VERSES может означать, что все западные IT-корпорации могут объединить усилия для более успешной конкуренции с китайскими разработчиками ИИ. Талантливый физик Роберт Оппенгеймер в свое время возглавлял международную команду атомного «Манхэттенского проекта». Похоже, талантливый нейробиолог Карл Фристон готовится к роли руководителя международной команды проекта искусственного интеллекта, военная направленность которого до сих пор тщательно скрывается.

Владимир Прохватилов