Для чего создают модели

Моделирование данных: зачем нужно и как реализовать

Моделирование данных ощутимо упрощает взаимодействие между разработчиками, аналитиками и маркетологами, как и сам процесс создания отчетов. Поэтому я перевела статью IBM Cloud Education о ценности моделирования и от себя добавила инфо о способах трансформации данных для моделирования.

Моделирование данных

Узнайте, как моделирование данных использует абстракцию для представления и лучшего понимания природы данных в информационной системе предприятия.

Что такое моделирование данных

Моделирование данных — это создание визуального представления о всей информационной системе либо ее части. Цель в том, чтобы проиллюстрировать типы данных, которые используются и хранятся в системе, отношения между этими типами данных, способы группировки и организации данных, их форматы и атрибуты.

Модели данных строятся на основе бизнес-потребностей. Правила и требования к модели данных определяются заранее на основе обратной связи с бизнесом, поэтому их можно включить в разработку новой системы или адаптировать к существующей.

Данные можно моделировать на различных уровнях абстракции. Процесс начинается со сбора бизнес-требований от заинтересованных сторон и конечных пользователей. Эти бизнес-правила затем преобразуются в структуры данных. Модель данных можно сравнить с дорожной картой, планом архитектора или любой формальной схемой, которая способствует более глубокому пониманию того, что разрабатывается.

Моделирование данных использует стандартизированные схемы и формальные методы. Это обеспечивает последовательный и предсказуемый способ управления данными в организации или за ее пределами.

В идеале модели данных — это живые документы, которые развиваются вместе с потребностями бизнеса. Они играют важную роль в поддержке бизнес-процессов и планировании ИТ-архитектуры и стратегии. Моделями данных можно делиться с поставщиками, партнерами и коллегами.

Преимущества моделирования данных

Моделирование упрощает просмотр и понимание взаимосвязей между данными для разработчиков, архитекторов данных, бизнес-аналитиков и других заинтересованных лиц. Кроме того, моделирование данных помогает:

Уменьшить количество ошибок при разработке программного обеспечения и баз данных.

Унифицировать документацию на предприятии.

Повысить производительность приложений и баз данных.

Упростить отображение данных по всей организации.

Улучшить взаимодействие между разработчиками и командами бизнес-аналитики.

Упростить и ускорить процесс проектирования базы данных на концептуальном, логическом и физическом уровнях.

Типы моделей данных

Разработка баз данных и информационных систем начинается с высокого уровня абстракции и с каждым шагом становится все точнее и конкретнее. В зависимости от степени абстракции модели данных можно разделить на три категории. Процесс начинается с концептуальной модели, переходит к логической модели и завершается физической моделью.

Концептуальные модели данных. Также они называются моделями предметной области и описывают общую картину: что будет содержать система, как она будет организована и какие бизнес-правила будут задействованы. Концептуальные модели обычно создаются в процессе сбора исходных требований к проекту. Как правило, они включают классы сущностей (вещи, которые бизнесу важно представить в модели данных), их характеристики и ограничения, отношения между сущностями, требования к безопасности и целостности данных. Любые обозначения обычно просты.

Логические модели данных уже не так абстрактны и предоставляют более подробную информацию о концепциях и взаимосвязях в рассматриваемой области. Они содержат атрибуты данных и показывают отношения между сущностями. Логические модели данных не определяют никаких технических требований к системе. Этот этап часто пропускается в agile или DevOps-практиках. Логические модели данных могут быть полезны для проектов, ориентированных на данные по своей природе. Например, для проектирования хранилища данных или разработки системы отчетности.

Физические модели данных представляют схему того, как данные будут храниться в базе. По сути, это наименее абстрактные из всех моделей. Они предлагают окончательный дизайн, который может быть реализован как реляционная база данных, включающая ассоциативные таблицы, которые иллюстрируют отношения между сущностями, а также первичные и внешние ключи для связи данных.

Процесс моделирования данных

Моделирование данных начинается с договоренности о том, какие символы используются для представления данных, как размещаются модели и как передаются бизнес-требования. Это формализованный рабочий процесс, включающий ряд задач, которые должны выполняться итеративно. Сам процесс обычно выглядят так:

Определите сущности. На этом этапе идентифицируем объекты, события или концепции, представленные в наборе данных, который необходимо смоделировать. Каждая сущность должна быть целостной и логически отделенной от всех остальных.

Определите ключевые свойства каждой сущности. Каждый тип сущности можно отличить от всех остальных, поскольку он имеет одно или несколько уникальных свойств, называемых атрибутами. Например, сущность «клиент» может обладать такими атрибутами, как имя, фамилия, номер телефона и т.д. Сущность «адрес» может включать название и номер улицы, город, страну и почтовый индекс.

Определите связи между сущностями. Самый ранний черновик модели данных будет определять характер отношений, которые каждая сущность имеет с другими. В приведенном выше примере каждый клиент «живет по» адресу. Если бы эта модель была расширена за счет включения сущности «заказы», ​​каждый заказ также был бы отправлен на адрес. Эти отношения обычно документируются с помощью унифицированного языка моделирования (UML).

Полностью сопоставьте атрибуты с сущностями. Это гарантирует, что модель отражает то, как бизнес будет использовать данные. Широко используются несколько формальных шаблонов (паттернов) моделирования данных. Объектно-ориентированные разработчики часто применяют шаблоны для анализа или шаблоны проектирования, в то время как заинтересованные стороны из других областей бизнеса могут обратиться к другим паттернам.

Назначьте ключи по мере необходимости и определите степень нормализации. Нормализация — это метод организации моделей данных, в которых числовые идентификаторы (ключи) назначаются группам данных для установления связей между ними без повторения данных. Например, если каждому клиенту назначен ключ, этот ключ можно связать как с его адресом, так и с историей заказов, без необходимости повторять эту информацию в таблице с именами клиентов. Нормализация помогает уменьшить объем дискового пространства, необходимого для базы данных, но может сказываться на производительности запросов.

Завершите и проверьте модель данных. Моделирование данных — это итеративный процесс, который следует повторять и совершенствовать под потребности бизнеса.

Типы моделирования данных

Моделирование данных развивалось вместе с системами управления базами данных (СУБД), при этом типы моделей усложнялись по мере роста потребностей предприятий в хранении данных.

Иерархические модели данных представляют отношения «один ко многим» в древовидном формате. В модели этого типа каждая запись имеет единственный корень или родительский элемент, который сопоставляется с одной или несколькими дочерними таблицами. Эта модель была реализована в IBM Information Management System (IMS) ​​в 1966 году и быстро нашла широкое применение, особенно в банковской сфере. Хотя этот подход менее эффективен, чем недавно разработанные модели баз данных, он все еще используется в системах расширяемого языка разметки (XML) и географических информационных системах (ГИС).

Реляционные модели данных были предложены исследователем IBM Э. Ф. Коддом в 1970 году. Они до сих пор встречаются во многих реляционных базах данных, обычно используемых в корпоративных вычислениях. Реляционное моделирование не требует детального понимания физических свойств используемого хранилища данных. В нем сегменты данных объединяются с помощью таблиц, что упрощает базу данных.

Реляционные базы данных часто используют язык структурированных запросов (SQL) для управления данными. Эти базы подходят для поддержания целостности данных и минимизации избыточности. Они часто используются в кассовых системах, а также для других типов обработки транзакций.

В ER-моделях данных используют диаграммы для представления взаимосвязей между сущностями в базе данных. ER-модель представляет собой формальную конструкцию, которая не предписывает никаких графических средств её визуализации. В качестве стандартной графической нотации, с помощью которой можно визуализировать ER-модель, была предложена диаграмма «сущность-связь» (Entity-Relationship diagram). Однако для визуализации ER-моделей могут использоваться и другие графические нотации, либо визуализация может вообще не применяться (например, только текстовое описание).

Объектно-ориентированные модели данных получили распространение как объектно-ориентированное программирование и стали популярными в середине 1990-х годов. Вовлеченные «объекты» — это абстракции сущностей реального мира. Объекты сгруппированы в иерархии классов и имеют связанные черты. Объектно-ориентированные базы данных могут включать таблицы, но могут также поддерживать более сложные связи. Этот подход часто используется в мультимедийных и гипертекстовых базах данных.

Размерные модели данных разработал Ральф Кимбалл для быстрого поиска данных в хранилище. Реляционные и ER-модели делают упор на эффективное хранение и уменьшают избыточность данных, а размерные модели упорядочивает данные таким образом, чтобы легче было извлекать информацию и создавать отчеты. Это моделирование обычно используется в системах OLAP.

Две популярные размерные модели данных — это схемы «звезда» и «снежинка». В схеме «звезда» данные организованы в факты (измеримые элементы) и измерения (справочная информация), где каждый факт окружен связанными с ним измерениями в виде звездочки. Схема «снежинка» напоминает схему «звезда», но включает дополнительные слои связанных измерений, что усложняет схему ветвления.

Инструменты для моделирования данных

Сегодня широко используются многочисленные коммерческие и CASE-решения с открытым исходным кодом, в том числе различные инструменты моделирования данных, построения диаграмм и визуализации. Вот несколько примеров:

erwin Data Modeler — это инструмент моделирования данных, основанный на языке IDEF1X, который теперь поддерживает и другие нотации, включая нотацию для размерного моделирования.

Enterprise Architect — это инструмент визуального моделирования и проектирования, который поддерживает моделирование корпоративных информационных систем и архитектур, программных приложений и баз данных. Он основан на объектно-ориентированных языках и стандартах.

ER/Studio — это программа для проектирования баз данных, совместимая с некоторыми из самых популярных СУБД. Она поддерживает как реляционное, так и размерное моделирование данных.

Бесплатные инструменты моделирования данных включают решения с открытым исходным кодом, такие как Open ModelSphere.

Для того, чтобы преобразовать данные в структуру, которая соответствует требованиям модели, можно использовать встроенный механизм регулярных запросов, которые выполняются в Google BigQuery, Scheduled Queries и AppScript. Их легко можно освоить, потому что это привычный SQL, но проводить отладку в Scheduled Queries практически нереально. Особенно, если это какой-то сложный запрос или каскад запросов.

Есть специализированные инструменты для управления SQL-запросами, например, dbt и Dataform.

dbt (data build tool) — это фреймворк с открытым исходным кодом для выполнения, тестирования и документирования SQL-запросов, который позволяет привнести элемент программной инженерии в процесс анализа данных. Он помогает оптимизировать работу с SQL-запросами: использовать макросы и шаблоны JINJA, чтобы не повторять в сотый раз одни и те же фрагменты кода.

Главная проблема, которую решают специализированные инструменты — это уменьшение времени, необходимого на поддержку и обновление. Это достигается за счет удобства отладки.

Источник

Трехмерное моделирование в современном мире

Сегодня я расскажу вам о том, что такое 3D-моделирование, каким оно бывает, где его применяют и с чем его едят. Эта статья в первую очередь ориентирована на тех, кто только краем уха слышал, что такое 3D-моделирование, или только пробует свои силы в этом. Поэтому буду объяснять максимум «на пальцах».

Сам я технический специалист и уже более 10 лет работаю с 3D-моделями, поработал более чем в 10ке различных программ разных классов и назначений, а также в различных отраслях. В связи с этим накопился определенный helicopter view на эту отрасль, с чем и хотел с вами поделиться.

3D-моделирование прочно вошло в нашу жизнь, частично или полностью перестроив некоторые виды бизнеса. В каждой отрасли, в которую 3D-моделирование принесло свои изменения, имеются как свои определенные стандарты, так и негласные правила. Но даже внутри одной отрасли, количество программных пакетов бывает такое множество, что новичку бывает очень трудно разобраться и сориентироваться с чего начинать. Поэтому, для начала давайте разберем какие же бывают виды 3D-моделирования и где они применяются.

Можно выделить 3 крупные отрасли, которые сегодня невозможно представить без применения трехмерных моделей. Это:

Полигонами называются вот эти треугольники и четырехугольники.

Чем больше полигонов на площадь модели, тем точнее модель. Однако, это не значит, что если модель содержит мало полигонов (low poly), то это плохая модель, и у человека руки не оттуда. Тоже самое, нельзя сказать про то, что если в модели Over999999 полигонов (High poly), то это круто. Все зависит от предназначения. Если, к примеру, речь идет о массовых мультиплеерах, то представьте каково будет вашему компьютеру, когда нужно будет обработать 200 персонажей вокруг, если все они high poly?

Полигональное моделирование происходит путем манипуляций с полигонами в пространстве. Вытягивание, вращение, перемещение и.т.д.

Пионером в этой отрасли является компания Autodesk (известная многим по своему продукту AutoCAD, но о нем позже).
Продукты Autodesk 3Ds Max, и Autodesk Maya, де-факто стали стандартом отрасли. И свое знакомство с 3D моделями, будучи 15-летним подростком, я начал именно с 3Ds Max.

Что же мы получаем на выходе сделав такую модель? Мы получаем визуальный ОБРАЗ. Геймеры иногда говорят: «я проваливался под текстуры» в игре. На самом деле вы проваливаетесь сквозь полигоны, на которые наложены эти текстуры. И падение в бесконечность происходит как раз потому, что за образом ничего нет. В основном, полученные образы используются для РЕНДЕРА (финальная визуализация изображения), в игре / в фильме / для картинки на рабочем столе.

Собственно, я в свое время и пытался что-то «слепить», чтобы сделать крутой рендер (тогда это было значительно сложнее).
Кстати о лепке. Есть такое направление как 3D-sсulpting. По сути, тоже самое полигональное моделирование, но направленное на создание в основном сложных биологических организмов. В ней используются другие инструменты манипуляций с полигонами. Сам процесс больше напоминает чеканку, чем 3D моделинг.

Если полигональная модель выполнена в виде замкнутого объема, как например, те же скульптуры, то благодаря современной технологии 3D-печати (которая прожует почти любую форму) они могут быть воплощены в жизнь.

По сути, это единственный путь для полигональных 3D моделей оказаться в реальном мире. Из вышеописанного можно сделать вывод, что полигональное моделирование нужно исключительно для творческих людей (художников, дизайнеров, скульпторов). Но это не однозначно. Так, например, еще одной крупной сферой применения 3D моделей является медицина, а именно- хирургия. Можно вырастить протез кости взамен раздробленной. Например, нижняя челюсть для черепашки.

У меня нет медицинского образования и я никогда ничего не моделил для медицины, но учитывая характер форм модели, уверен, что там применяется именно полигональное моделирование. Медицина сейчас шагнула очень далеко, и как показывает следующее видео, починить себе можно практически все (были бы деньги).

Конечно, используя полигональное моделирование, можно построить все эти восстанавливающие и усиливающие элементы, но невозможно контролировать необходимые зазоры, сечения, учесть физические свойства материала и технологию изготовления (особенно плечевого сустава). Для таких изделий применяются методы промышленного проектирования.

По правильному они называются: САПР (Система Автоматизированного ПРоектирования) или по-английский CAD (Computer-Aided Design). Это принципиально другой тип моделирования. Именно на нем я специализируюсь уже 8 лет. И именно про него я буду вам в дальнейшем рассказывать. Чем этот метод отличается от полигонального? Тем, что тут нет никаких полигонов. Все формы являются цельными и строятся по принципу профиль + направление.

Базовым типом является твердотельное моделирование. Из названия можно понять, что, если мы разрежем тело, внутри оно не будет пустым. Твердотельное моделирование есть в любой CAD-системе. Оно отлично подходит для проектирования рам, шестеренок, двигателей, зданий, самолётов, автомобилей, да и всего, что получается путем промышленного производства. Но в нем (в отличии от полигонального моделирования) нельзя сделать модель пакета с продуктами из супермаркета, копию соседской собаки или скомканные вещи на стуле.

Цель этого метода — получить не только визуальный образ, но также измеримую и рабочую информацию о будущем изделии.

CAD – это точный инструмент и при работе с CAD, нужно предварительно в голове представлять топологию модели. Это алгоритм действий, который образует форму модели. Вот, как раз по топологии, можно отличить опытного специалиста от криворукого. Не всегда задуманную топологию и сложность формы можно реализовать в твердотелке, и тогда нам на помощь приходит неотъемлемая часть промышленного проектирования — поверхностное моделирование.

Топология в поверхностях в 10 раз важнее, чем при твердотельном моделирование. Неверная топология – крах модели. (напоминаю, что это статья обзорная и для новичков, я не расписываю тут нюансы). Освоение топологии поверхностей на высоком уровне, закрывает 70% вопросов в промышленном моделировании. Но для этого нужно много и постоянно практиковаться. В конечном итоге, поверхности все равно замыкаются в твердотельную модель.

Со временем приходит понимание наиболее удобного метода при моделировании того или иного изделия. Тут полно лайф-хаков, причем у каждого специалиста есть свои.

ВАЖНО: использование CAD без профильного образования не продуктивно! Я сам много раз наблюдал, как творческие люди, или мастера на все руки пытались проектировать. Да, конечно они что-то моделировали, но все это было «сферическим конем в вакууме».
При моделировании в CAD, помимо топологии, необходимо иметь конструкторские навыки. Знать свойства материалов, и технологию производства. Без этого, все равно, что подушкой гвозди забивать, или гладить пылесосом.

В CAD мы получаем электронно-геометрическую модель изделия.

(Напоминаю, что при полигональном моделировании мы получаем визуальный образ)

Источник

Для чего создают модели?

Для чего создают модели? Если Вы ищете ответ на этот вопрос, то после прочтения данной статьи обязательно его найдете.

Для чего используются модели?

Модели обычно применяются для нужд познания (созерцания, анализа и синтеза) и конструирования. Как модель может выступать отображения, схема, копия, макет, изображения.

Модели создают для того, чтобы изобразить, или воспроизвести определенный объект, конструкцию, которая показывает признаки, или свойства объекта. Каждый из нас видел глобус — который является уменьшенной моделью Земли. Глобус создали для знакомства с реальным миром.

Модели используются для того, чтобы воссоздать принципы внутренней организации или функционирования, определенные свойства, признаки объекта исследования или воспроизведение объекта по оригиналу.

Существует множество видов моделей, например: табличные, иерархические, графические, сетевые информационные модели, объектно-ориентированные модели и натурные модели.

Модель в конструировании (промышленный дизайн) — изделие, или деталь, которая повторяет форму и свойства определенного изделия или детали. Модель обычно стоит дешевле, и ее можно быстрее изготовить, чем моделируемое изделие.

Модель — изделие из материала, который легко подлежит обработке, с которого берется основа (форма) для воспроизведения в другом материале. Пример таких моделей — лекала, шаблоны и пр.

Модель в моделизме — уменьшенная копия определенного изделия, например, изготовленная в масштабе модель машины, сооружения, здания и тому подобное.

Модель в 3D-графике — объемный объект, созданный для отображения объектов в виртуальном мире (компьютерные игры).

Классификация моделей:

• по способу представления,
• по отраслям использования,
• по фактору времени,
• за инструментом реализации.

Источник

Мой новый коллега – цифровой аватар. Как и зачем компании создают фотореалистичные 3D-модели людей

Когда за три недели до окончания съемок «Гладиатора» умер Оливер Рид – актер, игравший роль тренера гладиаторов Антония Проксимо, – создателям фильма пришлось срочно переписывать сценарий так, чтобы Проксимо погиб по ходу действия, а недостающие сцены создавать с помощью дублера и компьютерных эффектов. Тогда, 21 год назад, 160 секунд киноленты с участием «цифрового Рида» обошлись в 3,2$ млн. А сейчас благодаря развитию технологий, по нашим оценкам, можно было сократить бюджет раз в тридцать, и за эти деньги не просто сделать цифрового двойника актера (digital double) для нескольких сцен, а создать его полную гиперреалистичную 3D-модель и дальше снимать с ней кино без ограничений во времени и пространстве. Наша команда как раз и работает над созданием таких аватаров. В этом посте я расскажу, зачем они нужны помимо кино и что любопытного мы узнали во время собственных экспериментов.

Двойники в кино

Вы наверняка не раз видели на экране двойников актёров и, скорее всего, даже не замечали подмены. Если раньше за схожесть отвечали гримёры, сейчас режиссеры всё чаще привлекают команды разработчиков из геймдев-индустрии.

«Гладиатор», которого я привел в пример, стал одним из первых фильмов с цифровым двойником. Те его сцены, которые не успели снять с Оливером Ридом, собирали из частично отснятого материала, добавляя кадры, сделанные с помощью 3D-графики. Для 1999 года удалось добиться просто фантастического результата, и даже специалисты в CG чаще всего не замечают подмену.

Еще один известный пример воссоздания киногероя после смерти актёра – фильм «Возвращение Супермена» (2006) Брайана Сингера. Сделать Марлона Брандо отцом сверхчеловека было делом принципа для режиссера, ведь в далеком 1978 году Брандо сыграл ту же роль в «Супермене».

3D-модель лица актера создали по фотографиям, а ее анимацию – мимику и движение глаз – создавали на основе съемок актера, не попавших в финальную версию монтажа. В общем, очень трудоемкий процесс.

Еще десять лет назад многие сложные операции для создания фотореалистичной модели делались вручную. А современной киноиндустрии для этих же целей уже доступен огромный технологический стек, и не нужно «изобретать велосипед».

Пожалуй, самый показательный пример прогресса в технологии – это процесс создания кожи в 3D. Человеческая кожа пропускает свет, и луч, проходящий через нее, отражается и распределяется внутри. В компьютерной графике это называется Subsurface scattering – распределение света под поверхностью. Современные рендер-движки, в которых реализован функционал Subsurface scattering-материалов, умеют физически корректно просчитывать этот эффект. А лет 10 лет назад его приходилось программировать или создавать «фейк» на постобработке.

Сейчас же процесс автоматизирован, и надо лишь вручную поменять цвет и фактуру кожи. Причем управление цветом можно осуществлять биологически корректным механизмом – изменяя содержание меланина в материале кожи. Современные цифровые двойники получаются настолько реалистичными, что вы едва ли сможете понять, что в конкретном кадре видите Digital Human, а не любимого актера.

Хотите потренироваться? Посмотрите сериал «СуперБобровы» с участием звезды «Собачьего сердца» Владимира Толоконникова. К большому сожалению, актер, всем известный по роли Полиграфа Полиграфовича Шарикова, не смог завершить съемки из-за остановки сердца. Так что все недостающие сцены сыграл его аватар.

Серьезный прогресс в создании цифровых двойников связан еще и с развитием вычислительных мощностей. Если раньше для просчета секвенции с цифровым персонажем нужны были целые фермы из процессоров и оперативной памяти, то сейчас все считается на домашнем игровом компьютере – медленно, но верно. Так что, думаю, Антония Проксимо можно было бы рендернуть примерно за месяц втроем. А если учитывать еще и создание трехмерной модели (самая трудоемкая и самая дорогая часть работ), общая длительность проекта составила бы 2-2,5 месяца, а бюджет можно было бы ограничить 100$ тыс.

Фабрика контента для бизнеса

Прогрессу в технологиях создания фотореалистичных моделей людей сопутствует скачок в развитии нейросетей, при помощи которых можно управлять 3D-моделями. В сумме это создаёт основу для более широкого применения Digital Human. Так, объединив 3D-модель с нейросетями или чат-ботом, можно организовать целую фабрику по производству видеоконтента: вы «скармливаете» ей текст, а ваш аватар зачитывает его с мимикой и эмоциями. Разработки такого сценария уже есть на рынке, правда, используют не 3D-модели, а съемки реальных людей.

Глядя на ведущих новостей федеральных каналов, многие думают, что примерно так они и работают. На самом деле, нет – ведущие не только читают текст с мимикой и эмоциями, но и пишут его под себя. А в будущем – конечно, «писать» текст для ТВ и видеоблогов смогут нейросети, а озвучивать – аватары. И при организации репортажей тоже можно будет экономить – отправлять на место только оператора, а на уже отснятый видеоматериал накладывать стендап аватара с текстом, написанным в редакции.

Нам в «ЛАНИТ-Интеграции» наиболее перспективными кажутся два направления использований технологий Digital Human.

Первое – это замена лица человека на видео. Наверное, все уже видели клонов Илона Маска, которые подключались к Zoom-конференциям. Этот сценарий называется Deep Fake и, как ясно из названия, используется для разного рода фейков. Технологически то же самое направление ещё называют Face Swap, но этот сценарий уже не для черного пиара, а для коммерческих целей, не вызывающих этических споров. Например, можно отладить производство образовательного контента.

У банка с федеральной сетью филиалов есть много обучающего видео самого разного качества. Часть из них – это просто записи Zoom-конференций. Собрать их в единый обучающий курс не позволяет низкое качество видео и обстановка в кадре, не соответствующая корпоративному стандарту. А при помощи цифровых аватаров и нейросетей можно все исправить – поменять и фон, и внешность спикера.

Схожий сценарий создания видеопродукции интересен ТВ и блогерам. Недавно к нам обратился продюсер одного тематического канала и попросил оценить стоимость производства регулярных выпусков с участием цифрового аватара в роли ведущего. Конечно, Digital Human не снимет всех задач – пока еще нет технологии, позволяющей аватару воспроизводить эмоции при обработке текста нейросетью – для этого всё еще нужен живой человек, чью мимику и чьи движения будет использовать аватар. Кроме того, нужен специалист, который возьмет на себя написание сценариев, текстов для озвучки. Правда, становится совершенно не важно, как выглядят люди, занятые в производстве медиаконтента, какого они пола, какой у них тембр голоса и где они находятся. Для съемки потребуется костюм для захвата движения, шлем с видеокамерой, направленной на лицо (для «захвата» мимики), и сам аватар, который в режиме реального времени будет транслировать на экран все движения закадрового работника. По нашим расчетам, такая технология позволит в 10 раз сократить смету видеопроизводства.

Второе направление применения Digital Human – это объединение цифрового аватара с чат-ботом и системой синтеза голоса, и оно может быть очень востребовано для коммуникаций с клиентами.

Сейчас во многих колл-центрах используются чат-боты. Но далеко не всем клиентам комфортно общаться с роботом. Возможно, коммуникация была бы более приятной, если бы клиент видел своего цифрового собеседника.

Прикрутив к цифровому аватару чат-бота, микрофон и систему распознавания и синтеза речи, можно создавать виртуальных хостесс, продавцов-консультантов, консультантов в госучреждениях (схожий кейс есть у Soul Machines — виртуальный помощник Ella общается с посетителями штаб-квартиры полиции Новой Зеландии), сомелье – в общем, любых сотрудников, основная задача которых — просто отвечать на вопросы клиента. По идее, это позволит экономить на ФОТ, а сотрудникам – заниматься тем, что нейросеть пока не может делать.

Эксперименты с внешностью

Итак, базой для всех вышеописанных сценариев является цифровой аватар. Я уже говорил о том, что его создание — очень трудоемкий процесс. Фактически речь о виртуальной скульптуре человека, выполненной 3D-скульптором. Он прорабатывает все детали внешности, а потом при помощи инструментов симуляции «выращивает» волосы.

Вопросов к внешности не возникнет, если вы создаете копию знаменитости или модели. А что если надо с нуля создать виртуального человека? Какими чертами вы его наделите?

В качестве эксперимента мы решили создать своего цифрового аватара – амбассадора ЛАНИТ. Конечно, можно было опросить всех коллег, как он должен выглядеть. Но, во-первых, опрос нескольких тысяч человек — это уже слишком, а во-вторых, на основе этих данных нам бы пришлось создать второго Кена для Барби – приятный обобщенный образ, полностью лишенный индивидуальности. Нет, такой амбассадор нам совсем не нужен. Мы пошли по другому пути.

У каждого из нас за годы жизни сформировался набор стереотипов. Например, окладистая седая борода ассоциируется с добрым нравом (как у Санта Клауса), широкие и прямые брови – с прямолинейностью и властным характером и т.д.

Мы сформировали экспертизу по психогеометрии лица и обучили нейросеть выявлять основанные на паттернах восприятия взаимосвязи между внешностью человека и тем, какое впечатление он производит. Теперь она анализирует особенности внешности и выдает набор слов, описывающий, каким человек может казаться окружающим, например, добрым, ранимым, неуверенным в себе, спокойным и т.п. Мы взяли эти наработки и запустили процесс в обратном порядке – дали нейросети описание нашего будущего героя (то, как его должна воспринимать целевая аудитория) и получили определенный набор черт лица.

Сразу сделаю важную оговорку: мы ни в коем случае не претендуем на научную достоверность нашего эксперимента. Более того, есть немало исследований, подтверждающих, что опасно искать взаимосвязи между чертами лица и, например, характером или (не дай боже) интеллектом. Так что мы исследуем не научную область, а возможности технологии.

Итак, нейросети мы «скормили» человеческие качества, соответствующие чертам корпоративного духа: лидерству, инновационности, надежности, целеустремленности и т.д.

И даже такой точечный отбор необходимых качеств привел к тому, что мы получили совершенно нейтрального персонажа, не вызывающего никаких эмоций. Поэтому результаты, которые нам выдала нейросеть, пришлось корректировать вручную.

Лицо и в целом вся компьютерная графика состоит из трех компонентов:

Технологический стек

1. Создание модели персонажа

Голова

Для создания Максима (так мы назвали своего аватара) взяли за основу упрощенную форму человеческой головы и формировали детали (sculpt) в Zbrush. Сначала была создана высокополигональная модель, в которой проработали мельчайшие детали, включая поры на коже (для нее были разработаны текстуры).

Мы используем текстуры 4К. 8К текстуры дают более качественный результат на крупных планах, но потребность в них случается редко, поэтому от использования 8К текстур мы отказались в угоду производительности. После того как высокополигональная модель готова, мы создаем ее низкополигональную копию и переносим на нее мелкие детали при помощи карт нормалей (карты «выдавливания» поверхности).

Волосы

Существует множество инструментов для создания волос. Мы выбрали GroomBear для Houdini, чтобы не раздувать софтверный стек – большая часть технической работы выполняется в Houdini.

Вот так выглядела самая первая версия Максима

Одежда

Для моделирования одежды использовали Marvelous Designer, а складки и мелкие и характерные детали доделывали в Blender.

А здесь уже Максим 4.0

2. Текстурирование

Мы выполняем текстурирование в Substance painter – на наш взгляд, его инструментарий обеспечивает наиболее простой и быстрый процесс текстурирования. Важный момент – хинт: чтобы скорректировать образ аватара, достаточно менять только текстуры кожи, совсем не трогая геометрическую основу. Впрочем, для любительниц макияжа это вовсе не секрет. Китаянки с помощью косметических средств ежедневно достигают эффекта, сравнимого с пластической операцией. А для аватаров столь простое изменение внешности означает большую экономию на производстве видеоконтента – три клика, и образ твоего персонажа изменился кардинально – настолько, что это уже совершенно другой человек.

3. Анимация

Наш персонаж настроен под работу с системами захвата движения: мокап-костюмом Xsense для тела и мокап-системой Dynamixyz для лица. Мы не стали использовать оптические системы захвата движения, так как они весьма громоздки, не мобильны, а значит, процесс производства контента имел бы намного больше ограничений.

Xsense управляет движениями туловища, головы и конечностей. Система анимации гибридная: большие массивы геометрии управляются костями, которые, в свою очередь, управляются данными мокап-системы, а складки одежды в районе суставов и других характерных местах управляются вспомогательными блендшейпами (состояниями модели с характерными сгибами в районе суставов), которые обеспечивают корректную работу геометрии там, где костная анимация не позволяет добиться корректного результата.

В необходимости создания блендшейпов заключается основная проблематика создания гардероба персонажа – это трудоемко. Для каждого нового предмета одежды художнику необходимо создать несколько десятков блендшейпов. Мы активно ищем пути автоматизации этой рутины, и если у вас есть идеи или готовые решения, я буду рад обсудить их с вами в комментах.

Dynamixyz управляет анимацией лица, и настройка лицевой анимации – самая сложная и трудоемкая часть в пайплайне. Дело в том, что под кожей лица скрывается 57 мышц (25% от общего количества мышц в человеческом теле), и движение каждой из них влияет на выражение лица.

Распознавание лиц и эмоций — крайне важная способность, необходимая для существования в социуме, поэтому люди моментально фиксируют неправдоподобную мимику. А значит, для аватара нужно сделать лицевую анимацию, реалистичную на 100%.

У каждого лица может быть бесконечное множество выражений, но, как показала практика, 150 блендшейпов достаточно, чтобы создать реалистичную анимацию. Мы пошли несколько дальше и создали 300 блендшейпов (и продолжаем создавать новые, если находим ситуации, когда 300 недостаточно).

Dynamixyz работает по следующему принципу: на голову актера надевают шлем, на котором закреплены специализированные камеры со сверхвысокой скоростью передачи данных. Видео с этих камер транслируется на рабочую станцию, где нейросеть определяет на лице актера якорные точки и в каждом кадре сопоставляет их с якорными точками на виртуальной лицевой маске, заставляя ее двигаться. К движениям лицевой маски привязана система блендшейпов, которые «переключаются» в соответствии с характером движения лицевой маски. Каждый блендшейп создается для всего лица целиком, но переключаться во время анимации он может локально, например, в районе рта или правого глаза отдельно от остального лица. Эти переключения происходят плавно и совершенно незаметно глазу.

Существуют альтернативные, менее трудоемкие системы лицевых анимаций, например, та, которую недавно запатентовал Сбербанк. Но за снижение трудозатрат приходится платить качеством и гибкостью, поэтому мы отказались от применения подобных технологий.

4. Рендер

Наш Максим живет в Unreal Engine и Houdini.

В Unreal Engine (UE) мы рендерим анимации, не требующие сложной постобработки, потому что UE не позволяет получить на выходе необходимые для постобработки каналы и маски в полном объеме, а также имеет ряд ограничений (например, нет возможности сделать корректную маску на волосы, потому что UE не умеет делать маски полупрозрачными). Некоторое время мы экспериментировали с Real time ray tracing (RTX), но, не получив существенного прироста в качестве изображения, отказались от его применения.

Для рендера в Houdini мы используем Arnold. Это CPU рендер, и работает он довольно медленно в сравнении с GPU и RealTime движками, но выбор пал именно на него, потому что сравнительные тесты показали, что Sub Surface Scattering материалы (а материал кожи является именно таким) и материал волос в Arnold работают на порядок лучше, чем в Redshift и Octane, а V-ray, к сожалению, бессистемно выдает артефакты на Sub Surface Scattering материалах.

5. Интерактив

Наиболее перспективным (но и наиболее сложным), с нашей точки зрения, направлением развития цифровых аватаров является их связка с программными продуктами – голосовыми помощниками, чат-ботами, системами speech2text и т.д. Такие интеграции открывают возможность для создания масштабируемых продуктов. В настоящее время мы активно работаем в этом направлении, строим гипотезы и прототипы. Если у вас есть идеи подобного применения цифровых аватаров, буду рад их обсудить.

Симпатичный или отвратительный? Движения усилят этот эффект

Возможно, Максим напомнит вам кого-то из ваших знакомых. А может, вы вчера с похожим человеком вели переговоры. Был ли он милым или раздражал своей манерой общения? В любом случае образ Максима вызывает эмоции.

В процессе его создания мы на собственном опыте проверили эффект «Зловещей долины», описанный японцем Масахиро Мори, который исследовал восприятие людьми человекоподобных роботов. Об этом подробно написано в Wiki, но если кратко: чем больше робот напоминает человека, тем большую симпатию мы к нему испытываем. Этот эффект нарастает до определенного момента. Когда робот уже почти неотличим от человека, мы, глядя на него, начинаем ощущать дискомфорт и даже страх – все потому, что робота выдают мельчайшие детали, которые мы чаще всего даже не можем выделить и назвать. Вот это резкое изменение наших реакций (соответствуют провалу на графике) и названо «Зловещей долиной». При этом анимация усиливает как отрицательный, так и положительный эффект, однако, как видно из графика, достичь полного сходства с человеком можно только с помощью анимации.

Итак, наш Максим перешел «Зловещую долину», но один нюанс негативно влияет на его восприятие – без анимации у него вообще нет никакого выражения лица, все лицевые мышцы расслаблены, чего не бывает у живого человека. Поэтому он выглядит очень отрешенным, смотрит не на собеседника, а словно сквозь него, что очень неприятно.

Максим нам кажется достойным представителем семьи аватаров. Поскольку Digital Human становятся все более популярны, мы рассчитываем на то, что наши клиенты и партнеры скоро решат обзавестись аватаром для маркетинговых задач. Тогда у Максима появятся братья и сестры по разуму – искусственному, разумеется.

А пока Максим в одиночку исследует возможности, которые открывает для цифровых аватаров В2В-рынок: в октябре 2020 года он примет участие в конференции «Умные решения — умная страна: инновационные технологии для новой реальности» и выставке цифрового искусства Disartive, будет продвигать продукты и услуги ЛАНИТ в социальных медиа и, возможно, даст несколько интервью.

Зарождающийся рынок Digital Human

В России есть компании, которые работают в схожем с нами направлении. Но далеко не все публичны – многие взаимодействуют с gamedev-студиями и делают персонажей для игр (а этот мир живет по своим правилам, и очень часто студии используют голливудскую модель, не раскрывая своих подрядчиков).

Самая известная компания – это, пожалуй, Malivar, в которую Сбербанк инвестировал 10 млн рублей. Ей принадлежит виртуальный персонаж Алиона Пол (Aliona Pole) — художница, модель и автор коллекций «цифровой одежды».

Источник