Для чего сенсор глубины
Исследователи: смартфоны можно использовать для поиска скрытых камер
Команда инженеров предложила использовать датчики глубины в камерах смартфонов для обнаружения скрытого наблюдения.
Инженеры Национального университета Сингапура и Университета Енсе представили концепцию, которая позволит пользователям современных смартфонов искать источники скрытого видеонаблюдения. Для этого необходимы датчики глубины (time-of-flight) камеры устройства.
ToF-датчики устроены по принципу сонара, где главное отличие ― ориентир на свет, а не на звук. Так, камера глубины выпускает излучение инфракрасного спектра и фиксирует временной промежуток, за который свет отразится от направленного объекта.
Датчики состоят из диода и светочувствительной матрицы, благодаря которым они способны определять расстояние до объектов и их форму.
Такие смартфоны, как iPhone 12/13 Pro и Samsung Galaxy S20+, оборудованы ToF-датчиками производства Sony, которые используют в устройствах для приложений дополненной реальности и дополнительной глубины на снимках.
Для обнаружения скрытых камер исследователи предложили технологию, состоящую из поиска малозаметных объективов при помощи поиска чрезмерно интенсивных отражений в процессе сканирования камерой глубины. Система получила название Laser-Assisted Photography Detection (LAPD).
По словам исследователей, мелкие скрытые камеры составляют огромную угрозу личной безопасности людей. Люди по всему миру становятся жертвами скрытого наблюдения в таких укромных местах, как примерочные, уборные и гостиничные номера.
Несмотря на существование подобных технологий ― исследователи приводят в пример противошпионские детекторы CC308 + и K18, предназначенную для обнаружения скрытых камер, ― и их сравнительную доступность, простые пользователи остаются без возможности защитить себя от вторжения в личное пространство более простым путем.
Инженеры отмечают, что эффективность LAPD, согласно результатам исследований, достигает 88,9% по сравнению с поисками невооруженным взглядом. Известно, что в ходе эксперимента испытуемые без дополнительной техники смогли обнаружить лишь 46% установленных камер.
Также исследователи сравнили ToF-датчики смартфонов со специализированными устройствами. Оказалось, что детектор K18 обнаруживал скрытые камеры в 62,3% и 57,7% испытаний в непрерывном и мигающем режиме соответственно.
Кроме этого, в ходе экспериментов инженеры отметили низкий уровень ложных срабатываний запатентованной ими системы: 16,67% против 26,9% и 35,2% для различных режимов детектора K18 и 54,9% ― для поисков невооруженным взглядом.
По словам исследователей, в ближайшем будущем исходный код LAPD окажется в открытом доступе.
Что делают 3D-сенсоры в смартфонах? РАЗБОР
Все чаще мы видим в смартфонах так называемые 3D-сенсоры, или сенсоры глубины. Большинство из них также называют ToF-сенсорами аналогично одноименной технологии. По слухам, такой сенсор будет установлен и в новом iPhone (там он называется LiDAR, подробнее мы об этом рассказывали в другом материале). Эти сенсоры довольно дорого стоят, но зачем они нужны понятно не всем. Производители уверяют, что сенсоры позволяют делать лучше фото и портреты или добавляют фишки в дополненную реальность. Но так ли это на самом деле?
Сегодня обсудим, зачем нужны 3D-сенсоры в смартфонах, как это работает, ну и конечно, проведем несколько тестов и проверим заявления производителей.
Что такое 3D сенсор (сенсор глубины)
Для начала, давайте разберемся, а что такое 3D-сенсор? Фотокамеры захватывают проекцию окружающего мира на плоскость. По одной лишь фотографии не понять реальный размер объекта — размером ли он с бутылку или с Пизанскую башню. И расстояние до него тоже не понять.
Для того, чтобы понимать реальные размеры объектов на фото, масштабы съемки, отличать, что ближе к камере, а что дальше, и нужны 3D-сенсоры. Они уже давно и активно применяются в робототехнике, автономном транспорте, играх, медицине и много где еще. Более того, наши глаза — это тоже 3D сенсор. При этом, в отличие от LiDAR’а и ToF-сенсоров в смартфонах, глаза — пассивный 3D-сенсор. То есть не излучающий никакого света, а работающий только на основе поступающего света. Только благодаря этому мы можем хоть как-то перемещаться в пространстве и взаимодействовать с окружающими объектами. Теперь 3D-сенсоры появились и в смартфонах.
Как работает ToF?
LiDAR в iPad’е, а также все 3D-сенсоры в Android-смартфонах — это time-of-flight или сокращенно ToF-сенсоры. Они определяют расстояния до объектов вокруг, напрямую измеряя сколько времени понадобится свету, чтобы долететь от камеры до объекта и вернуться обратно. Это очень похоже на эхо в пещере, оно тоже после отражения от стенок возвращается к нам с запаздыванием. Чтобы пролететь 1 метр свету нужно 3 наносекунды, для 1 см — 30 пикосекунд. Вроде бы все понятно. Но есть проблема.
Это очень маленькие промежутки времени. Как камера может такое замерить? Не будет же она делать миллиард кадров в секунду, а потом их сравнивать? Есть 2 основных подхода для решения этой проблемы: dToF (direct ToF) и iToF (indirect ToF). И чтобы вас заинтриговать еще сильнее: абсолютное большинство Android-смартфонов используют как раз iToF сенсоры, тогда как LiDAR в Apple iPad и скорее всего в грядущих iPhone — это редкий представитель семейства dToF сенсоров. Так чем же они отличаются?
iToF — indirect ToF
Начнем с iToF. В таких сенсорах излучатель отправляет высокочастотный модулированный свет, то есть этот свет постоянно включается и выключается с частотой десятки миллионов раз в секунду. За счет того, что свету нужно время для полета до объекта и обратно, фаза, то есть вот это состояние где-то между включенностью и выключенностью, света, вернувшегося в камеру, немного отличается от фазы света в момент отправки. На сенсоре исходный и отраженный обратно от объекта сигналы накладываются друг на друга, и за счет этого определяется сдвиг фаз, который и позволяет понять расстояние до каждой точки объекта.
dToF — direct ToF
dToF работает немного иначе. В таких сенсорах напрямую измеряется разница во времени между отправкой света и детектированием его отражения на сенсоре. Для этого используются так называемые SPAD: single photon avalanche diodes. Они могут детектировать крайне маленькие импульсы света, фактически даже ловить единичные фотоны. Такие SPAD расположены в каждом пикселе сенсора. А в качестве излучателя в таких сенсорах используются как правило так называемые VCSEL — Vertical Cavity, Surface Emitting Laser. Это лазерный излучатель, подобный тем, что используются в лазерных мышках и много где еще. dToF сенсор в LiDAR разработан совместно с Sony и является первым массовым коммерческим dToF сенсором.
Можно лишь гадать, почему в iPad используется dToF сенсор, но давайте отметим преимущества такого сенсора. Во-первых, в отличие от iToF сенсора излучатель испускает не сплошную стену света, а лишь светит в отдельных направлениях, что позволяет экономить батарейку. Во-вторых, dToF сенсор меньше подвержен ошибкам в измерении глубины из-за так называемой multipath interference. Это типичная проблема iToF сенсоров. Она возникает из-за переотражения света между объектами перед попаданием обратно в сенсор и искажает измерения сенсора.
Как это работает, разобрались, давайте теперь посмотрим, а зачем вообще 3D-сенсоры используются в смартфонах.
Зачем это нужно в смартфонах
1. Безопасность
Первым массовым внедрением 3D-сенсоров в смартфонах мы обязаны Apple и технологии Face ID. Распознавание лиц при использовании трёхмерных данных намного точнее и надежнее классического распознавания лиц по фото. Для Face ID Apple использует технологию структурированной подсветки, на ней мы остановимся подробнее как-нибудь в следующий раз.
Большинство производителей заявляют, что именно более качественный и точный режим дополненной реальности является главной задачей 3D-сенсоров. Более того, это также поддерживается непосредственно компанией Google. Буквально недавно они представили грядущее обновление своей библиотеки дополненной реальности ARCore, позволяющее более реалистично размещать виртуальные объекты в реальности и взаимодействовать с реальными объектами.
Для этой же задачи Apple встроили LiDAR в iPad Pro. Такое можно делать и без 3D-сенсора, но с ним все работает точнее и надежнее, плюс задача становится вычислительно сильно проще и разгружает процессор. 3D-сенсор выводит AR на другой уровень.
3. Улучшение фотографий
Ряд производителей, например, Samsung и HUAWEI заявляют, что 3D-сенсор используется в первую очередь для более качественного размытия фона и более точного автофокуса при съемке видео. Другими словами, он позволяет увеличить качество обычных фото и видео.
4. Прочее
Доступ к данным сенсоров у некоторых смартфонов открыт, поэтому появляется все больше приложений, предлагающих новые применения. Так, например, с помощью внешних приложений 3D-сенсор можно использовать для измерения объектов, трехмерного сканирования и motion tracking’а. Есть даже приложение, позволяющее сделать из своего смартфона прибор ночного видения.
Тесты
С тем как это работает в теории разобрались, давайте теперь посмотрим, как это работает на практике, и есть ли какой-то толк от этих дорогущих 3D-сенсоров в флагманах. Для тестов мы взяли Redmi Note 9S, у него есть ToF-сенсор и мы сделали несколько снимков в портретном режиме, но во втором случае просто закрыли 3D-камеру пальцем. И вот что получилось.
Всё просто — размытие действительно больше и лучше, если ToF работает.
И для частоты эксперимента мы взяли Samsung Galaxy S20 Ultra, который также получил ToF-камеру.
И найдите хотя бы одно отличие?
Что получается? Дело в том, что в зависимости от производителя ToF-камера используется по-разному и в разной степени.
Можно сказать, что часть производителей смартфонов располагает ToF-датчики в своих смартфонов не для маркетинга, чтобы добавить ещё одну камеру, а скорее на всякий случай. А дальше уже алгоритмы решают — использовать эту камеру или нет?
При этом на сегодняшний момент необходимости в LiDAR или ToF-камерах прямо нет. Так что это видимо чуть больше маркетинг.
Как работают двойные камеры в смартфонах
Одним из главных трендов в мире смартфонов в 2017 году стали двойные камеры. Это уже далеко не инновация, поскольку впервые использовать одновременно два модуля камер в смартфонах решила компания HTC в Evo 3D (2011 год) и позднее в One M8 (2014 год). Реализация тайваньцев не обрела широкой популярности на рынке. И вот, в 2017 году производители решили снова сделать ставку на двойные камеры.
Содержание
На сей раз все получилось. После выпуска LG G5 и Huawei P9 в 2016 году Apple решила ответить конкурентам — iPhone 7 Plus стал первым флагманом компании с двойной камерой. В итоге к двойным камерам пришли практически все известные компании — сейчас их используют Samsung, Apple, Huawei, LG, Nokia, Xiaomi, Meizu, Lenovo (Motorola), Essential, ZTE и даже небольшие китайские вендоры типа UMIDIGI, Doogee, Vernee и прочих.
Все они используют различные системы двойных камер: кто-то делает акцент на монохромный датчик, кто-то на широкоугольный, а кто-то — на телеобъектив. Трешбокс решил разобраться, что предлагает тот или иной дуэт фотомодулей, как это работает, а также в чем преимущества и недостатки используемых производителями решений.
Датчик глубины
Мы начнем с датчика глубины, поскольку это самая простая форма возможной системы двойной камеры. В данном случае основная камера сопровождается вторым датчиком, единственной функцией которого является создание трехмерной карты области снимаемого объекта. Как вы, возможно, знаете, человек видит трехмерный мир в двухмерной проекции, но способен составлять полное представление о расстоянии, форме, размерах и глубине окружающих объектов. За это отвечают наши глаза, имеющие стереоскопическую способность благодаря разным перспективам.
Датчик глубины в системе двойной камеры работает аналогично основной камере. Используя вторичный модуль, двойная камера может приблизительно рассказать, насколько далеко перед ней стоят объекты относительно друг друга. Затем эта информация используется для отделения объекта переднего плана от фона.
Главная фишка двойной камеры с этим датчиком заключается в создании реалистичного эффекта глубины резкости. Технология в своем виде пришла из DSLR-камер с их большими сенсорами и объективами, однако воссоздать эффект такой же мелкой глубины резкости смартфоны не могут. Датчик глубины сначала определяет границы объекта переднего плана, а затем применяет эффект размытия на все окружающее. Отмечу, что получаемый результат — очень близок, но иллюзорен.
В теории и на практике датчик глубины имеет свои подводные камни. Если снимаемый объект не имеет глубины (например, вы можете снимать что-то плоское), камера не сможет это определить и вместе с задним фоном размоет края объекта. Даже если датчик глубины отлично справляется со своей задачей, итог в любом случае не выглядит естественным. В DSLR-камерах интенсивность размытия увеличивается с расстоянием от точки фокусировки. В смартфонах этого нет.
Системы двойных камер со специальным датчиком глубины — один из самых редких дуэтов фотомодулей. Впервые такая система была установлена во флагмане HTC One (M8) — это самый популярный пример. В наши дни датчик глубины используется в таких смартфонах, как Huawei Honor 6X или Lenovo K8 Plus, то есть не во флагманских моделях.
Монохромная камера
Несколько более популярная реализация вторичного фотомодуля — монохромная камера. В такой системе основная камера дополняется аналогичным датчиком, особенность которого заключается в монохромной съемке. Обе камеры обычно имеют одинаковые сенсоры, светосилу, линзы и фокусирующие системы. Единственное различие между ними состоит в том, что у второй камеры отсутствует цветной RGB-фильтр. Это означает, что монохромный датчик не может фиксировать информацию о цвете, однако он может захватывать больше света, чем обычная камера.
Двойная камера с монохромным датчиком делает одновременно две фотографии. Принцип работы такой системы — объединение снимков с обеих камер в одно изображение. Как итог — два совмещенных изображения имеют более подробную информацию и уменьшенный уровень шумов. Кроме того, вы можете делать исключительно черно-белые фотографии на монохромную камеру и получать наиболее высокое качество изображения. Цветной модуль не может обеспечить такого результата даже после применения ЧБ-эффекта.
Одним из первых смартфонов с дополнительной монохромной камерой можно назвать флагман Huawei P9. С тех пор китайская компания продолжает улучшать свою двойную камеру и сегодня у нее лучшая система с монохромным датчиком. Стоит отметить, что в разработке двойных камер и алгоритмов обработки Huawei участвует Leica — популярный немецкий производитель, выпускающий фотокамеры и оптику премиум-класса.
Широкоугольная камера
Впервые двойная камера с широкоугольным объективом дебютировала в смартфоне LG G5 в начале прошлого года. LG установила в свой новый флагман 16-мегапиксельный первичный сенсор (29 мм) со светосилой f/1.8 и дополнительный 8-мегапиксельный датчик (12 мм) со светосилой f/2.4. Фокусное расстояние 12 мм придает второстепенной камере значительно более широкое поле зрения, которое захватывает гораздо более широкую область сцены без необходимости намеренного отдаления от объекта.
В основном широкоугольная камера применяется во флагманах LG. Недавно Motorola оснастила такой системой свой новый смартфон Moto X4. Широкоугольный объектив представляет уникальную перспективу для мобильной фотографии, которую не может предложить ни одна другая камера для смартфонов. Помимо своей практической ценности (к примеру, захвата большой группы людей с близкого расстояния), широкоугольный датчик также позволяет создавать красивые пейзажи за счет захвата полной или хотя бы большей части сцены.
Первые поколения широкоугольных камер имели свои недостатки. Пользователи G5 и V20 жаловались на низкое качество изображения с ультрашироким углом обзора и сильное искажение сцены по углам. Тем не менее, LG продолжает неуклонно улучшать свою двойную камеру с широкоугольным объективом. В последнем флагмане V30 вторичная линза лишилась главных недостатков — качество изображения заметно подтянули, а искажений на снимках стало существенно меньше.
С хорошей реализацией такая система двойной камеры может быть действительно очень полезной, если говорить об определенных сценариях съемки. LG идет своим путем, и это хорошо.
Телефотокамера
Мы подошли к последнему и самому распространенному варианту из всех систем с двумя камерами — телефото. В данной конструкции первичный модуль соединен со вторым датчиком с телеобъективом. «Телевик» является полной противоположностью широкоугольной системы камер. Он фактически позволяет увеличить только масштаб снимаемого объекта, а не масштаб всей сцены целиком.
Начиная с релиза iPhone 7 Plus (первого смартфона Apple с двойной камерой) производители обратили внимание на телеобъектив в качестве второй камеры для фирменных смартфонов. В настоящее время телефото предлагает двукратное оптическое увеличение, то есть вторичный датчик в такой системе имеет увеличенное вдвое фокусное расстояние. Компания OPPO на выставке MWC 2017 в Барселоне представила инновационную систему двойной камеры с рекордным 5-кратным оптическим зумом, однако этому решению еще далеко до коммерческого выхода.
У телеобъектива много преимуществ. Во-первых, что наиболее очевидно — это получение двукратного оптического зума без потерь в качестве изображения. Масштабирование фотографии на смартфонах в значительной степени было цифровым до сих пор, но с телеобъективом вы можете быстро «приблизиться» к снимаемому объекту с минимальной потерей качества. И потому как теперь цифровой зум применяется поверх двукратного оптического зума, получаемые результаты — намного более эффективные.
Съемка с использованием телеобъектива имеет и другие плюсы. Телефотокамеры отлично подходят для портретов, поскольку обеспечивают минимальное искажение и снимают объект сглаженнее, чем широкоугольный объектив. Большинство производителей сегодня также реализует эффект размытости фона. Комбинация телеобъектива и фонового размытия выводит классические портретные фотографии почти на уровень «зеркалок» — результат настолько впечатляет, что не каждый сможет увидеть разницу. Конечно, не стоит забывать о современных алгоритмах обработки.
Какие недостатки
Единственный недостаток для большинства систем двойных камер — пока ни один из производителей не смог достигнуть полного паритета для обоих модулей. Дополнительные датчики имеют меньшую светосилу по сравнению с основной камерой (от f/2.4 до f/2.8, в то время как для обычных камер уже достигнута рекордная отметка f/1.6) и не оснащаются оптической стабилизацией изображения. В этом году только два флагмана получили OIS одновременно для двух камер — это Samsung Galaxy Note 8 и Apple iPhone X.
Из-за такого различия в характеристиках двойных камер наблюдается заметное расхождение в качестве, если речь идет о съемке при помощи конкретного модуля (только широкоугольный или только телефото). Тем не менее, уровень фотовозможностей, который сегодня предлагают такие мобильные устройства, как Galaxy Note 8 или iPhone X — невероятно высок.
Какие перспективы
Развитие камер в смартфонах за последние пару лет действительно превзошло все ожидания. Нет никаких сомнений в том, что технология двойных камер — это будущее мобильной фотографии. Уже сейчас ими оснащаются не только флагманы, но и устройства среднего класса, а также даже некоторые бюджетные модели. Новая жизнь для черно-белых фотографий, портретный режим с размытым фоном прямиком из «зеркалок», качественный зум без потерь, более высокая детализация — все это теперь могут делать и смартфоны благодаря двойным камерам.
Что такое сенсор глубины на смартфоне? Или почему портретный режим превратился в инструмент для обмана
Каждый раз, делая обзор на очередной смартфон и упоминая «сенсор глубины», я чувствую, что ввожу читателя в заблуждение.
Сегодня этот загадочный датчик глубины встречается на подавляющем большинстве устройств, ведь он так важен для портретного режима с красивым размытием фона (эффект боке, живой фокус, режим диафрагмы и пр.).
А может и не важен вовсе? Возможно, вы встречали на просторах интернета разоблачения, в которых люди полностью заклеивали сенсор глубины, а смартфон продолжал размывать фон на портретных снимках, как ни в чем не бывало. Получается, телефоны умеют определять глубину сцены и без сенсора глубины? Зачем же он тогда нужен?
Ну и главный вопрос — как вообще устроен этот «сенсор»? На чем основан принцип его работы?
Бегло просмотрев несколько популярных статей и роликов в интернете, я с удивлением обнаружил, что многие люди думают, будто этот сенсор посылает световые импульсы и определяет время задержки отраженного луча. То есть, как-то активно участвует в построении карты глубины.
А вот, к примеру, на сайте Popular Science (Популярная наука) приводится следующее объяснение (в моем вольном переводе):
Датчик глубины (depth sensor) предназначен именно для определения глубины сцены. В топовых современных смартфонах датчик глубины постепенно исчезает, так как его заменяют другие камеры, умеющие ощущать глубину и объем сцены, например широкоугольная или телеобъектив.
Камеры, ощущающие глубину — это, конечно, очень интересно, но давайте разберемся, что же происходит на самом деле.
Зачем вообще нужен какой-то сенсор глубины?
Современный смартфон должен не просто «видеть» через камеру плоскую картинку, но и «понимать», на каком расстоянии находится каждый объект в сцене. То есть, он должен уметь «ощущать» глубину сцены. И на это есть целый ряд причин.
Например, благодаря умению построить карту глубины, телефоны научились делать красивые фотографии с размытием фона. Да, часто на таких снимках заметна искусственная обработка, но иногда результат практически не отличим от работы зеркального фотоаппарата:
Сделать что-то подобное при помощи оптики нереально, так как единственный параметр, отвечающий за степень размытия фона — это диаметр входного зрачка объектива (проще говоря, размер дырки, через которую свет попадает в объектив смартфона).
На самых дорогих камерофонах он не превышает и 4 миллиметров, в то время, как даже у бюджетного объектива зеркального фотоаппарата он будет минимум в 2 раза больше (а у дорогих объективов — в 10-15 раз).
Помимо этого, на смартфоны постепенно приходит дополненная реальность (AR), позволяющая определять размеры объектов, расстояние между предметами и делать много всего удивительного (примерять вещи и различные аксессуары, смотреть, как будет выглядеть мебель в интерьере своего дома и многое другое).
Также умение определять глубину позволяет создавать более надежные и удобные способы блокировки смартфона (например, технология FaceID, которая делает «трехмерный» снимок лица).
Многие производители пытаются придумать новые способы управления смартфоном при помощи бесконтактных жестов, а для этого также нужно хорошо понимать положение рук в пространстве.
Но как смартфоны определяют глубину и какие датчики для этого используются?
Три кита
На сегодняшний день существует всего 3 основных метода, позволяющие смартфонам «ощущать» объем:
Открою небольшую тайну. В некоторых смартфонах в качестве всем нам знакомого датчика приближения (тот, который блокирует экран во время входящего звонка) используется самая настоящая ToF-камера с лазерным излучателем и специальным высокочувствительным сенсором, измеряющим время полета света и определяющим точное расстояние до объекта. Работает он, естественно, гораздо точнее и качественнее обычных инфракрасных датчиков, встречающихся на подавляющем большинстве устройств.
Так вот, возвращаясь к нашей теме, горькая правда заключается в том, что для первого метода определения глубины сцены (стереозрение) не нужны дополнительные датчики.
Если на смартфоне уже есть две камеры (например, основная и ультраширокоугольная, или основная и телеобъектив), использовать еще третий «сенсор глубины» (то есть, еще одну камеру) нет никакого смысла.
Дополнительный «сенсор глубины» на 99.9% смартфонов — это банальная попытка ввести покупателя в заблуждение.
Возьмем, к примеру, смартфон Redmi Note 9 Pro, у которого сзади размещено 4 камеры:
Здесь уже есть основная и ультраширокоугольная камеры (две верхние). И этого более, чем достаточно для определения глубины сцены по принципу стерео-зрения. Но компания пытается обмануть покупателя, показав больше камер, чем у конкурентов. И таких примеров масса: Samsung Galaxy A51, Xiaomi Poco X3, OnePlus Nord, Huawei Y8p и мн. др.
Так как «сенсор глубины» — это самая обыкновенная камера с очень низким разрешением, то стоимость такой матрицы составляет от 30 центов за 2 Мп сенсор до 50-60 центов за 5 Мп сенсор (правда, за последний год цены немного выросли из-за колоссального спроса на столь дешевые компоненты).
Производитель за пару баксов может легко набросать пару лишних камер на корпус и затем использовать это количество в качестве конкурентного преимущества, внушая покупателям, что смартфон с пятью камерами снимает ну почти как зеркалка.
Еще раз повторю ключевую мысль прежде, чем мы продолжим: все современные смартфоны, за исключением буквально 10-15 флагманских моделей, определяют глубину сцены при помощи двух обыкновенных камер и метода под названием стереозрение. Да и те 10-15 флагманов также используют в основном стереозрение, а ToF-сенсор служит лишь как дополнительный инструмент.
Многие аппараты (Samsung Galaxy S20/Note20, Huawei P40, iPhone 11 Pro и прочие), легко обходятся основными камерами (широкоугольной, ультраширокоугольной или телеобъективом). Другие же устанавливают дополнительную камеру за три копейки исключительно в маркетинговых целях без малейшей технической необходимости.
А некоторые и вовсе идут на серьезный обман — устанавливают 2-Мп низкокачественную камеру а-ля «сенсор глубины», а сами используют широкоугольную камеру, так как ее качество гораздо выше.
Как смартфон определяет глубину, используя стереозрение и 2 камеры?
Итак, мы определились, что никакого «сенсора глубины» нет. Это обычная (и зачастую — лишняя) камера. Но что же такое стереозрение и как оно работает? Зачем нам нужны две камеры, ведь есть смартфоны, которые умеют размывать фон даже с одной камерой?
Наш мозг использует множество техник для определения глубины и объема сцены, например:
Можно продолжать этот список, но главная причина, по которой мы ощущаем объем, заключается в другом.
У каждого из нас есть два глаза, размещенных на небольшом расстоянии друг от друга. Причем один из них — не запасной и не для красоты или симметрии. Если мы будем смотреть на что-то поочередно то одним, то другим глазом, тогда те объекты, что расположены ближе к нам, будут смещаться в стороны гораздо сильнее тех объектов, что расположены дальше.
Очевидно, что так происходит потому, что правый глаз видит всю сцену как бы с правой стороны, а левый — с левой:
На картинке выше в левом глазу дерево немного сместилось влево, а цветок — вправо. А в правом глазу получилось наоборот — цветок оказался немного левее дерева.
Теперь мозг берет «картинки» из двух глаз и анализирует смещение каждой «точки». Возьмем левый глаз. Чем сильнее точка сместилась вправо (относительно такой же точки в правом глазу), тем ближе она находится к нам и наоборот, чем сильнее сместилась влево — тем она дальше от нас.
Это хорошо видно на следующей анимации, где поочередно меняются картинки, которые увидел левый и правый глаз:
Обратите внимание, как камни в левом нижнем углу смещаются вправо (значит, находятся ближе), в то время, как деревья в правом верхнем углу уходят влево (находятся дальше). Получается, даже меняя поочередно две картинки, мы уже можем ощутить объем.
Вот еще одна наглядная анимация:
Вроде бы всё просто и понятно. Но как же это делает смартфон? Как конкретно он строит карту глубины всей сцены, используя две камеры?
Чтобы разобраться с этим, давайте рассмотрим простой пример.
Итак, у нас есть какая-то точка в пространстве и смартфон с двумя камерами. Свет от точки проходит через объектив каждой камеры и попадает на матрицу. Мы получили два плоских снимка этой точки и не можем определить расстояние до нее:
Думаю, вы обратили внимание на одну странность — почему матрица камеры находится перед самой камерой, хотя должна находиться за объективом? На самом деле, мы просто разместили ее так схематически для простоты понимания. Это ни на что не влияет и принцип работы сохраняется.
Нам нужно узнать расстояние до красной точки. Мы знаем только расстояние между двумя камерами (производитель разместил их на определенном расстоянии друг от друга). Также нам известно фокусное расстояние камер, то есть, расстояние от центра линзы до матрицы, на которую она проецирует изображение:
На первый взгляд кажется, что сделать это невозможно и нам ничего не дает знание расстояния между камерами.
К слову, если мы используем камеры с разными фокусными расстояниями (например широкоугольную и телеобъектив), тогда нужно просто сделать кроп на снимке с более широким углом (вырезать часть кадра) и дальше уже работать, как с идентичным фокусным расстоянием:
Итак, давайте посмотрим, как свет от красной точки P упадет на наши матрицы и превратится в точки на снимках:
Обратите внимание на то, что точка на левом снимке оказалась справа от центра матрицы, а на правом снимке эта же точка оказалась левее центра. Если бы мы приняли центр за начало отсчета, тогда точка слева ушла бы по горизонтальной оси в плюс (вправо), а справа — в минус (так как центр — это 0):
И как все эти рисунки помогут нам найти расстояние Z (от камеры до точки в пространстве)?
Думаю, вы уже давно заметили, что все эти точки образовывают треугольники. В частности, здесь можно увидеть два подобных треугольника. Один проходит через наши красные точки на двух снимках и точку в пространстве (зеленый треугольник слева), а другой проходит через центры объективов и точку в пространстве (синий треугольник справа):
Эти треугольники подобны, а значит, их стороны соответственно пропорциональны и все углы соответственно равны. И вот уже из этого подобия мы можем легко определить расстояние от камеры до любой точки в пространстве, то есть, найти величину Z.
Я упущу несложные математические расчеты и просто запишу конечный результат:
Z = F * D/(d1-d2)
Здесь F — это фокусное расстояние объектива (известная заранее характеристика нашей камеры), D — расстояние между камерами (также известно), а d1 и d2 — смещение конкретной точки (пикселя) на снимках с левой и правой камер.
Другими словами, смартфон делает ровно то же, что и наш мозг — определяет глубину сцены только по смещению (несоответствию) пикселей на левой и правой фотографии (или на «картинке» в левом и правом глазу).
Получается, всё, что нам нужно — это две (любые) камеры и больше ничего. Соответственно, третья камера («сенсор глубины») совершенно бесполезна.
Но мой смартфон делает превосходные портреты даже с одной камерой!
Некоторые смартфоны действительно могут определять глубину сцены даже с одной камерой. И делается это при помощи искусственного интеллекта.
Опять-таки, смартфон пытается копировать работу нашего мозга. Когда мы смотрим на сцену одним глазом (или двумя глазами смотрим на плоскую фотографию), то легко определяем, какой объект находится дальше, а какой — ближе.
Смартфоны также учатся сегментировать фотографии и выделять на снимках людей. Для этого нужно обучить нейронную сеть отличать человека от других объектов.
Но даже в случае с одной камерой, нейросеть берет дополнительную информацию с двух снимков. Двух снимков?! Но откуда же берется второй снимок, если камера всего одна?
Дело в том, что очень многие современные матрицы имеют фазовый автофокус Dual Pixel. То есть, фактически каждый пиксель на матрице состоит из двух отдельных «пикселей» (фотодиодов), каждый из которых собирает информацию только с половины линзы. Скажем, левый пиксель берет информацию с правой половины линзы, а правый — с левой половины:
Можно сказать, что у нас появляются две камеры (две части одной линзы) с небольшим расстоянием. Да, это крошечное расстояние, но его достаточно, чтобы уже заметить какое-то смещение пикселей.
Вот два примера таких снимков, полученных с двух половин линзы (Dual-Pixel 1 и Dual-Pixel 2) одной камеры:
Как видите, смещение на примере слева более ярко выражено, так как лампочка находится гораздо ближе к камере, нежели человек на втором снимке.
Использование двух камер (то, о чем мы говорили выше) будет давать гораздо большее смещение, чем использование одной камеры с фазовым автофокусом Dual Pixel. Это можно наглядно увидеть на следующем примере (слева — одна камера, но разные части линзы, а справа — две камеры на небольшом расстоянии друг от друга):
Но некоторые смартфоны умудряются делать портретные режимы даже без двух камер или двух изображений с разных половин одной линзы. Правда, качество такого размытия заметно уступает традиционному стереозрению.
Всё, о чем я говорил выше, касается только пассивной технологии определения глубины сцены, когда смартфон просто «смотрит» на мир через камеру/камеры и никак не пытается с ним взаимодействовать.
Однако существует и более продвинутая активная технология, когда смартфон изучает сцену при помощи лазера (ToF-сенсоры и лидары). Но об этом я подробно расскажу как-нибудь в другой раз.
Алексей, глав. редактор Deep-Review
P.S. Не забудьте подписаться в Telegram на первый научно-популярный сайт о мобильных технологиях — Deep-Review, чтобы не пропустить очень интересные материалы, которые мы сейчас готовим!
Как бы вы оценили эту статью?
Нажмите на звездочку для оценки
Внизу страницы есть комментарии.
Напишите свое мнение там, чтобы его увидели все читатели!
Если Вы хотите только поставить оценку, укажите, что именно не так?