"Создание роботов-убийц — очень и очень плохая идея". Как остановить автономных роботов убийц? Боевой робот Shelby

David Domingo Jiménez делится секретами моделирования, текстурирования и освещения Crazy, своего робо-персонажа.

Введение

Всегда считал, что личные проекты должны быть такими же профессиональными, как и рабочие. Используя высокополигональное моделирование, текстуры с разрешением 8К, реалистичные материалы и свет, правильно поставленный с технической и художественной точек зрения, можно создать уникального персонажа с характером и атмосферную сцену. В работе очень многое зависит от освещения, потому что именно оно помогает настроить все в сцене правильным образом. Отдельное спасибо Victor Loba за композицию.

Шаг 1: Создание концепта

Первый концепт я взял из головы, и, поскольку, я не художник-концептуалист, доработал его с помощью базового меша и фотореференсов. Выберите для себя наиболее подходящий вам и эффективный рабочий процесс.

Я работаю по такому пайплайну: моделирование базового меша -> высокополигональное моделирование всех объектов -> создание UV-развертки и финальное моделирование -> редактирование UV и текстурирование -> настройка материалов и света -> финальная композиция и настройка света -> пост

Шаг 2: Моделирование, этап 1

На картинке показан процесс создания модели робота от базового меша до скалптинга в ZBrush и ретопологии, в результате чего мы получаем меш с одним уровнем подразделений

Как только я получаю базовую модель, сразу же начинаю прорабатывать ее детали по-отдельности, используя команды Extrude, Bevel, Connect Edge и Shell.

Окончательный вариант меша я создал с использованием как можно меньшего числа полигонов, которые впоследствии увеличил. Работал командой Editable Poly c модификатором Turbosmooth, в конце активировав параметр Show End Result.

Шаг 3: Моделирование, этап 2

Для детализации одежды робота использовались такие кисти ZBrush как Standard, Move, Smooth и ClayBuildup

Конечно же, есть менее сложные способы моделирования, позволяющие использовать небольшое число полигонов, но в данной работе было множество подразделений. Именно поэтому я предпочитаю самый быстрый метод, хотя он может быть и не самым легким.

ZBrush я использую исключительно для детализации одежды с помощью таких кистей как Standard, Move, Smooth и ClayBuildup. Также очень важно использовать маски. Ретопологию делаю в Topogun.

Шаг 4: Создание UV-развертки

Для создания UV-разверток использовался UV Layout. Было создано 4 текстурные карты одинакового размера и с одинаковым числом полигонов

Для создания UV-разверток рекомендую использовать UV Layout, поскольку это стабильная и интуитивно простая программа. Перед тем, как начать резать объект, нужно помнить, что чем меньше на модели надрезов, тем лучше. Модели всегда режу в наименее видимых для камеры участках.

Для этого проекта я создал 4 карты одного размера с одинаковым числом полигонов, сгруппировал их наиболее подходящим мне способом, так, чтобы они располагались в UV-пространстве как можно более удобно. Мне неважно, как именно расположены шеллы в UV-развертке, поскольку я всегда создаю отдельные ID-карты для разных материалов.

Шаг 5: Текстурирование

Создание разных текстурных карт с разрешением 8К

Сначала я создаю различные карты с разрешением 8К. Конкретно для этой работы я создавал ID, AO, Displacement, Normal, Cavity и Snow карты. Для получения их в 3Ds Max: Rendering -> Render Surface Map. В ZBrush их можно получить с помощью ZPlugin -> Multi Map Exporter.

Шаг 6: Текстурирование в Photoshop

На данном этапе мы уже работаем над 4 текстурными картами с разрешением 8К

Эти карты используются не только для детализации текстуры, с ними особенно удобно работать, поскольку нет необходимости выходить из Photoshop. Благодаря этому я могу визуально оценить объемы нашей модели. Персонаж Crazy состоит из 4 текстур с разрешением 8К, которые соответствуют картам BMP и SPC.

Шаг 7: Продолжаем работать над текстурами

Для получения хороших текстур нужно использовать творческий подход и быстро работать

Я всегда работаю с большими тайловыми текстурами, поскольку проще уменьшить изначальный размер изображения, а с помощью масок можно очень просто скрыть ненужный участок. Для получения хороших текстур нужно использовать творческий подход и быстро работать. В этом проекте я использовал фотографии.

Я бы рекомендовал использовать ZBrush, Mudbox или Mari для рисования текстур поверх вашего меша. Грязь, царапины, ржавчина добавят 3D модели реалистичности, однако, не перестарайтесь с ними, иначе результат будет выглядеть ужасно. Любые дополнительные вмешательства в модель должны сочетаться с базовым материалом, например, как в моем случае, с металлом, магнитным покрытием, песком и пылью, соответствуя при этом цветовой гамме и освещению.

Шаг 8: Настройка материалов

Использование материалов позволяет визуально отделить друг от друга разные части модели

В данной работе я использовал различные металлические материалы (сталь, железо, алюминий); матовый и блестящий пластик; а также кожу, ткань и резину. На все эти материалы назначено всего по 3 текстурные карты: Diffuse, Specular и Bump. В сцене не было сложных материалов, за исключением экрана телевизора и металлического лезвия топора.

Для всех материалов, кроме как Reflection Glossiness и Fresnel Reflections, для которых вводились точные цифры, использовалась информация об освещенности, в основном для Fresnel IOR, а также данные для Bump.

Шаг 9: Окончательная настройка света

Окончательная настройка света должна также освещать и характер персонажа

Окончательная настройка света должна освещать характер персонажа, выгодно вписывая его в окружающую среду. Для своего персонажа я хотел создать агрессивную атмосферу. Я использовал ночное освещение, немного подсветил сцену с помощью HDRI, усилив эффект при помощи «электрического света». Использовал VRayLights, чтобы подчеркнуть отражения и устранить излишний контраст.

Чтобы направить свет и получить хорошо читающийся силуэт персонажа, использовал SpotLight’ы. Кроме того, задний фон был создан с помощью VrayLightsMaterial, для SpotLight’ов использовал текстуры, окна и прочую атрибутику, чтобы как-то обозначить здание. Для освещения всей сцены также использовал SpotLight’ы.

VrayLights были использованы для усиления отражений и устранения излишнего контраста

Шаг 10: Постобработка

В проекте такого типа это самый важный этап. Я выполнил сцену в одной цветовой гамме, подчеркнул освещенные участки, скорректировал контраст и замылил некоторые части работы, чтобы создать эффект глубины, заставляя зрителя сфокусироваться. Все эти этапы очень важны для получения хорошего результата.

В Photoshop, для получения эффекта боке, я работал с Saturation, Curves и Levels. Затем я настроил текстурные карты, которые будут рендерится: Reflection, Alpha и Specular. В результате получаем сложную картинку, которая доносит зрителю эмоции и историю. С помощью персонажа Crazy я демонстрирую целую серию своих работ и художественный стиль, в котором работаю.

Большое собрание ученых, лидеров отрасли и НПО начали кампанию, чтобы остановить роботов-убийц, посвященную предотвращению развития боевых автономных систем вооружения. Среди тех, кто подписался были: Стивен Хокинг, Ноам Хомский, Элон Маск и Стив Возняк.

Эти громкие имена вызывают много внимания и придают законность тому, что роботы-убийцы, когда-то считавшиеся научной фантастикой, на самом деле быстро приближаются к реальности.

Интересное исследование, опубликованное в Международном журнале исследований культуры используют другой подход к идее «роботов-убийц» как культурного концепта. Исследователи утверждают, что даже самые продвинутые роботы — это просто машины, как и все остальное когда либо сдеаланное человечеством.

«Дело в том, что убийца робот’ как идея возникла не из воздуха», — сказал соавтор Теро Karppi, доцент кафедры теории СМИ в университете Буффало. «Этому предшествовали методы и технологии, позволяющие сделать мышление и развитие этих систем возможными».

Другими словами, мы беспокоимся о роботах-убийцах. Авторы раскрывают тему роботов — убийц в таких фильмах, как «Терминатор» или «Я, робот», в котором они предположили, что далеко в будущем роботы будут в конечном итоге порабощать человеческую расу.

«За последние десятилетия, расширенное использование беспилотных вооружений резко изменило войны, принося новые гуманитарные и правовые проблемы. Сейчас возрос стремительный прогресс в технологии, в результате усилий по разработке полностью автономного оружия. Эти роботизированные оружия будут иметь возможность выбирать огонь по цели самостоятельно, без какого-либо вмешательства человека.»

Исследователи отвечают, что эти алармистские сценарии антиутопии отражают «технико-детерминистское» мировоззрение, где технологическим системам дают слишком много автономии, что может стать разрушительными не только для общества, но и для всей человеческой расы.

Но что, если мы закодируем машинный интеллект таким образом, что роботы даже не смогут найти различия между человеком и машиной? Это интригующая идея: если нет никаких «нас» и «них» не может быть никакого «мы против них».

Действительно, Karppi предположил, что мы можем быть в состоянии управлять, как будущие машины будут думать о людях на фундаментальном уровне.

Если мы хотим внести изменения в разработки этих систем, сейчас самое время. Просто запретить смертельное автономное оружие и устранить коренные причины этой дилеммы. Чтобы действительно избежать развития автономных машин для убийства.

Катались на беспилотном «Яндекс. Такси» по «Сколково», военные инженеры придумывали, как адаптировать технологии беспилотного транспорта для создания нового оружия.

На самом деле, технологии - не совсем то, чем они кажутся. Проблема всей технологической эволюции в том, что грань между коммерческими роботами «для жизни» и военными роботами-убийцами невероятно тонкая, и перейти ее ничего не стоит. Пока что они выбирают маршрут движения, а завтра смогут сами выбирать, какую цель уничтожить.

Это не первый раз в истории, когда технологический прогресс ставит под вопрос само существование человечества: сначала ученые создали химическое, биологическое и ядерное оружие, теперь - «автономное оружие», то есть роботов. Разница лишь в том, что до сего дня бесчеловечным считалось оружие «массового поражения» - то есть не выбирающее, кого ему убивать. Сегодня перспектива изменилась: куда более безнравственным кажется оружие, которое будет убивать с особой разборчивостью, выбирая жертв на собственный вкус. И если какую-нибудь воинственную державу останавливало то, что, примени она биологическое оружие, пострадают все вокруг, то с роботами все сложнее - их можно запрограммировать на уничтожение конкретной группы объектов.

В 1942 году, когда американский писатель Айзек Азимов сформулировал три закона робототехники, все это казалось захватывающим, но совершенно нереалистичным. Эти законы гласили, что робот не может и не должен причинять вред или убивать человека. А еще они должны беспрекословно подчиняться воле человека, кроме тех случаев, когда его приказы будут противоречить вышеизложенному императиву. Теперь, когда автономное оружие стало реальностью и вполне может попасть в руки террористов, оказалось, что программисты как-то забыли заложить в его ПО законы Азимова. А значит, роботы могут представляьт опасность, и никакие гуманные законы или принципы не смогут их остановить.

Разработанная Пентагоном ракета сама обнаруживает цели благодаря программному обеспечению, искусственный интеллект (ИИ) идентифицирует мишени для британских военных, а Россия демонстрирует беспилотные танки. На разработку роботизированной и автономной военной техники в различных странах тратятся колоссальные средства, хотя увидеть ее в действии мало кому хочется. Как большинство химиков и биологов не заинтересованы в том, чтобы их открытия в итоге были использованы для создания химического или биологического оружия, так и большинство исследователей ИИ не заинтересованы в создании оружия на его основе, потому что тогда серьезный общественный резонанс повредит их исследовательским программам.

В своем выступлении в начале Генеральной Ассамблеи Организации Объединенных Наций в Нью-Йорке 25 сентября Генеральный секретарь Антониу Гутерреш назвал технологию ИИ «глобальным риском» наряду с изменением климата и растущим неравенством доходов: «Давайте называть вещи своими именами, - сказал он. - Перспектива, что машины будут определять, кому жить - отвратительна». Вероятно, Гутерреш - единственный, кто может призвать военные ведомства одуматься: ранее он разбирался с конфликтами в Ливии, Йемене и Сирии и занимал должность Верховного комиссара по делам беженцев.

Проблема в том, что при дальнейшем развитии технологий роботы сами смогут решать, кого убивать. И если у одних стран такие технологии будут, а у других нет, то бескомпромиссные андроиды и дроны предрешат исход потенциальной битвы. Все это противоречит всем законам Азимова одновременно. Алармисты могут всерьез тревожиться о том, что самообучаемая нейросеть выйдет из-под контроля и перебьет не только врага, но и всех людей вообще. Однако перспектива даже вполне послушных машин-убийц совсем не радужна.

Наиболее активная работа в области искусственного интеллекта и машинного обучения на сегодняшний день ведется не в военной, а в гражданской сфере - в университетах и компаниях вроде Google и Facebook. Но большая часть этих технологий может быть адаптирована к военному использованию. Это значит, что потенциальный запрет на исследования в этой области, коснется и гражданских разработок.

В начале октября неправительственная американская организация «Кампания „Остановить роботов-убийц“ отправила письмо в Организацию Объединенных Наций с требованием ограничить разработку автономного оружия на международном законодательном уровне. ООН дала понять, что поддерживает эту инициативу, а в августе 2017 года к ней присоединились Илон Маск и участники Международной конференции ООН по вопросам использования искусственного интеллекта (IJCAI). Но фактически США и Россия выступают против таких ограничений.

Последняя встреча 70 стран-участниц Конвенции о конкретных видах обычного оружия (о „негуманном“ оружии) состоялась в Женеве в августе. Дипломаты не смогли достичь консенсуса относительно того, как глобальная политика в отношении ИИ может быть реализована. Некоторые страны (Аргентина, Австрия, Бразилия, Чили, Китай, Египет и Мексика) высказались в поддержку законодательного запрета разработок роботизированного оружия, Франция и Германия предложили ввести добровольную систему таких ограничений, однако Россия, США, Южная Корея и Израиль заявили, что не собираются ограничивать исследования и разработки, которые ведутся в этой области. В сентябре Федерика Могерини , высокопоставленный представитель Европейского союза по вопросам внешней политики и политики безопасности, заявила, что оружие „влияет на нашу коллективную безопасность“, поэтому решение вопроса жизни и смерти должно в любом случае оставаться в руках человека.

Холодная война-2018

Должностные лица американских обороны считают, что автономное оружие необходимо Соединенным Штатам, чтобы сохранить свое военное преимущество перед Китаем и Россией, которые также вкладывают деньги в аналогичные исследования. В феврале 2018 года Дональд Трамп потребовал выделить $686 млрд на оборону страны в следующем финансовом году. Эти расходы всегда были довольно высокими и снижались разве что при предыдущем президенте Бараке Обаме . Однако Трамп - неоригинально - аргументировал необходимость их увеличения технологической конкуренцией с Россией и Китаем. В 2016 году в бюджете Пентагона было заложено $18 млрд на разработку автономного оружия в течение трех лет. Это немного, но тут нужно учесть один очень важный фактор.

Большинство разработок в области ИИ в США ведутся коммерческими компаниями, поэтому они оказываются в широком доступе и могут быть проданы в коммерческих целях другим странам. У Пентагона нет монополии на передовые технологии машинного обучения. Американская оборонная промышленность больше не ведет собственные исследования так, как это делалось во время „холодной войны“, а использует наработки стартапов из Кремниевой долины, а также Европы и Азии. В то же время в России и Китае такие исследования находятся под строгим контролем оборонных ведомств, что, с одной стороны, ограничивает приток новых идей и развитие технологий, но, с другой, гарантирует госфинансирование и защиту.

По оценке экспертов The New York Times, военные расходы на автономные военные машины и беспилотные летательные аппараты превысит $120 млрд в течение следующего десятилетия. Это означает, что дискуссия в конечном счете сводится не к тому, стоит ли создавать автономное оружие, а к тому, какую степень независимости ему дать.

Сегодня полностью автономного оружия не существует, но заместитель председателя Объединенного комитета начальников штабов генерал Пол Дж. Сельва из ВВС еще в 2016 году заявил, что через 10 лет Соединенные Штаты получат технологию создания такого оружия, которое сможет самостоятельно решить, кого и когда убивать. И пока страны спорят о том, стоит ли ограничивать ИИ или нет, может стать слишком поздно.

Илон Маск не так давно высказался в том духе, что он выступает резко против того, чтобы ИИ использовался для создания роботов-убийц. Речь пока не о «Терминаторах», а о роботизированных системах, способных выполнять какие-то задачи, обычно являющиеся обязанностью солдат. Интерес военных к этой теме понятен, но их далеко идущие планы пугают многих.

Но не только современные вояки спят и видят автоматы, которые могут заменить десять, а то и сто солдат одновременно. Эти мысли посещали головы деятелей разных эпох. Иногда некоторые задумки реализовывались, и выглядели они весьма неплохо.

Робот-рыцарь Да Винчи

Леонардо был гением практически во всех сферах. Ему удавалось достигать успеха практически во всех областях, к которым он проявлял интерес. В 15-м веке он создал робота-рыцаря (конечно, тогда слова «робот» в обиходе не было).

Автомат был способен сидеть, стоять, гулять, двигать головой и руками. Всего этого создатель механического рыцаря достиг при помощи системы рычагов, шестеренок и передач.

Рыцаря повторно создали уже в нашу эпоху - рабочий прототип был построен в 2002 году. Его создал «по мотивам» проекта Да Винчи Марк Рошейм.

Радиоуправляемая лодка Тесла

В 1898 году изобретатель Никола Теста показал миру первое в своем роде изобретение - контролируемое удаленно транспортное средство (небольшая лодка). Демонстрация была проведена в Нью-Йорке. Тесла управлял лодкой, а та маневрировала, выполняя различные действия как по волшебству.

Позже Тесла попытался продать военным США свое другое изобретение - нечто вроде радиоуправляемой торпеды. Но военные по какой-то причине отказались. Правда, описал свое создание он не как торпеду, а как робота, механического человека, который способен выполнять сложную работу вместо своих создателей.

Радиоуправляемые танки СССР

Да, инженеры Советского Союза были не лыком шиты. В 1940 году они создали радиоуправляемые боевые машины на базе легкого танка Т-26. Дальность действия пульта управления - более километра.

Операторы этих военных терминаторов могли открывать огонь из пулеметов, задействовать пушку и огнемет. Правда, минусом этой технологии было то, что обратная связь отсутствовала. То есть оператор мог лишь непосредственно наблюдать за действиями танка на удалении. Естественно, эффективность действий оператора в этом случае была относительно низкой.

Это первый пример военного робота в действии.

Голиаф

Нацисты создали нечто похожее, только вместо оснащения радиуправлением обычных танков, они создали миниатюрные гусеничные системы. Ими можно было управлять удаленно. Начинали «Голиафов» взрывчаткой. Задумка была следующей: юркий малыш пробирался к «взрослому» танку противника и оказавшись рядом, выполнял команду оператора уничтожить все взрывом. Немцы создали как электрическую версию системы, так и мини-танк с двигателем внутреннего сгорания. Всего таких систем было произведено около 7000.

Полуавтоматические зенитки

Эти системы также были разработаны во время Второй Мировой. К их созданию приложил руку основатель кибернетики Норберт Винер. Он со своей командой смог создать зенитные системы, которые корректировали точность огня сами. Они были оснащены технологией, которая позволяла предсказывать, где в следующий момент покажется самолет противника.

Умное оружие нашего времени

В 1950-х годах военные США, стремясь победить во Вьетнамской войне, впервые создали оружие с лазерным наведением, а также автономные летательные устройства, фактически, беспилотники.

Правда, они требовали помощи человека при выборе цели. Но это уже было близко к тому, что есть сейчас.

Predator

Об этих беспилотниках слышали, наверное, все. MQ-1 Predator были представлены военными США через месяц после событий 9/11. Сейчас Predator - самые распространенные в мире военные беспилотники. У них есть и старшие родственники - БПЛА Reaper.

Саперы

Да, кроме роботов-убийц есть и роботы-саперы. Сейчас они очень распространены, использовать их стали несколько лет назад, в Афганистане и других горячих точках. Кстати, этих роботов разработала компания iRobot - именно она создает самых популярных роботов-уборщиков в мире. Речь, конечно, о Roomba и Scooba. В 2004 году было произведено 150 таких роботов (не пылесосов, а саперов), а четыре года спустя - уже 12000.

Сейчас же военные и вовсе разошлись. Искусственный интеллект (слабая его форма) сулит большие возможности. В США этими возможностями собираются воспользоваться по полной. Здесь идет создание роботов-убийц нового поколения, с камерами, радарами, лидарами и оружием.

Вот они-то как раз и пугают Илона Маска, а с ним - и многие другие светлые умы из самых разных сфер деятельности.

Пока премьер Дмитрий Медведев и Аркадий Волож катались на беспилотном «Яндекс.Такси» по «Сколково», военные инженеры придумывали, как адаптировать технологии беспилотного транспорта для создания нового оружия.

В 1942 году, когда американский писатель Айзек Азимов сформулировал три закона робототехники, все это казалось захватывающим, но совершенно нереалистичным. Эти законы гласили, что робот не может и не должен причинять вред или убивать человека. А еще они должны беспрекословно подчиняться воле человека, кроме тех случаев, когда его приказы будут противоречить вышеизложенному императиву. Теперь, когда автономное оружие стало реальностью и вполне может попасть в руки террористов, оказалось, что программисты как-то забыли заложить в его ПО законы Азимова. А значит, роботы могут представлять опасность, и никакие гуманные законы или принципы не смогут их остановить.

В начале октября неправительственная американская организация «Кампания «Остановить роботов-убийц» отправила письмо в Организацию Объединенных Наций с требованием ограничить разработку автономного оружия на международном законодательном уровне. ООН дала понять, что поддерживает эту инициативу, а в августе 2017 года к ней Илон Маск и участники Международной конференции ООН по вопросам использования искусственного интеллекта (IJCAI). Но фактически США и Россия выступают против таких ограничений.

Последняя встреча 70 стран-участниц Конвенции о конкретных видах обычного оружия (о «негуманном» оружии) состоялась в Женеве в августе. Дипломаты не смогли достичь консенсуса относительно того, как глобальная политика в отношении ИИ может быть реализована. Некоторые страны (Аргентина, Австрия, Бразилия, Чили, Китай, Египет и Мексика) высказались в поддержку законодательного запрета разработок роботизированного оружия, Франция и Германия предложили ввести добровольную систему таких ограничений, однако Россия, США, Южная Корея и Израиль заявили, что не собираются ограничивать исследования и разработки, которые ведутся в этой области. В сентябре Федерика Могерини, высокопоставленный представитель Европейского союза по вопросам внешней политики и политики безопасности, заявила , что оружие «влияет на нашу коллективную безопасность», поэтому решение вопроса жизни и смерти должно в любом случае оставаться в руках человека.

Холодная война-2018

Должностные лица американских обороны считают , что автономное оружие необходимо Соединенным Штатам, чтобы сохранить свое военное преимущество перед Китаем и Россией, которые также вкладывают деньги в аналогичные исследования. В феврале 2018 года Дональд Трамп потребовал выделить $686 млрд на оборону страны в следующем финансовом году. Эти расходы всегда были довольно высокими и снижались разве что при предыдущем президенте Бараке Обаме. Однако Трамп - неоригинально - аргументировал необходимость их увеличения технологической конкуренцией с Россией и Китаем. В 2016 году в бюджете Пентагона было заложено $18 млрд на разработку автономного оружия в течение трех лет. Это немного, но тут нужно учесть один очень важный фактор.

Большинство разработок в области ИИ в США ведутся коммерческими компаниями, поэтому они оказываются в широком доступе и могут быть проданы в коммерческих целях другим странам. У Пентагона нет монополии на передовые технологии машинного обучения. Американская оборонная промышленность больше не ведет собственные исследования так, как это делалось во время «холодной войны», а использует наработки стартапов из Кремниевой долины, а также Европы и Азии. В то же время в России и Китае такие исследования находятся под строгим контролем оборонных ведомств, что, с одной стороны, ограничивает приток новых идей и развитие технологий, но, с другой, гарантирует госфинансирование и защиту.

По оценке экспертов The New York Times, военные расходы на автономные военные машины и беспилотные летательные аппараты превысят $120 млрд в течение следующего десятилетия. Это означает, что дискуссия в конечном счете сводится не к тому, стоит ли создавать автономное оружие, а к тому, какую степень независимости ему дать.

Сегодня полностью автономного оружия не существует, но заместитель председателя Объединенного комитета начальников штабов генерал Пол Дж. Сельва из ВВС еще в 2016 году заявил , что через 10 лет Соединенные Штаты получат технологию создания такого оружия, которое сможет самостоятельно решить, кого и когда убивать. И пока страны спорят о том, стоит ли ограничивать ИИ или нет, может стать слишком поздно.