Nautilus
Новости со всего света
03:38 20 мая 2025
Иерусалим 28 Тель-Авив 25 Хайфа 25
$ 3.551 £ 4.74 € 3.99 ₽ 0.044 ₴ 0.085
Nautilus
Новости со всего света
03:38 20 мая 2025
Иерусалим 28 Тель-Авив 25 Хайфа 25

Последние публикации

20.05.25 Хранители порога

Как повел бы себя в ту ночь Нетаниягу, мы можем только гадать, но фактическую ответственность за…

18.05.25 Бар: «Я узнал о нападении ХАМАСа в 3:03»

Всю ночь Бар действовал вопреки данным, вопреки процедурам, несмотря на всё растущее понимание, что…

15.05.25 Юдофобия скрывается за словом Палестина

Применение к Израилю недостижимых стандартов, по которым не судят ни одну другую страну, - это…

13.05.25 Геть, геть, Катаргейт!

Ясно же что весь Катаргейт – это высосанное из пальца дело. Еще более нелепое, чем предыдущие…

11.05.25 Украина и Трамп. Попытка понять

Устроить небольшие и не слишком скандальные революции в сумасшедшем доме под названием Ближний…

08.05.25 «Объективное» лицо

Если раньше мы только подозревали, что чиновники ООН находятся на содержании у пропалестинских…

06.05.25 Почему Израиль проигрывает в мировых СМИ?

Израилю не стоит беспокоиться о том, «как же нам до них достучаться». Там нечего искать — лишь…

04.05.25 Сказано - сделано

В первом публичном заявлении после трагических событий 7 октября Катрин Колонна говорила о…

02.05.25 Любимый папа ХАМАСа

По степени ненависти к евреям Франциск мог смело соперничать с Пием Двенадцатым – главой…

30.04.25 Правовой террор — глобальная угроза демократии

Главная опасность исходит вовсе не от правых или, как их обозвал Макрон «реакционеров». Она исходит…

28.04.25 Абсолютно справедливо и заслуженно

После 77-ми лет кровавых попыток решить проблему Газы полумерами и уступками террористам, Израилю…

26.04.25 …А честность демократия могут катиться к черту!

Профессор Мордехай Кремницер из Израильского института демократии был приглашен на заседание…

24.04.25 Не та элита

Гибнет пехота, танкисты, саперы, военные инженеры, спецназ. Те, что «в поле», кто в сапогах, в…

22.04.25 Большой план Аарона Барака - II

В чём состоял проект Аарона Барака? В 1975 году Аарон Барак, тогдашний декан юридического…

20.04.25 Опубликовано в марте 2030 года

По сути, аристократичные подписанты заявляют о своей голубой кровушке и белой косточке на фоне…

18.04.25 Запутавшись в ветвях власти

Одна из главных задач председателя Верховного суда – не потерять доверие народа к этому институту,…

16.04.25 Академическая биография «офицера по политическим вопросам»

В общем, если вы читаете этот текст и у вас не возникает позывов немедленно выступить в защиту…

14.04.25 Где вчера звучал сигнал тревоги…

Это не места падений и конечно же не количество ракет. Только районы, где звучал сигнал тревоги,…

12.04.25 А Украина точно воюет с Путиным?…

Такой ненависти и такого количества проклятий в адрес 45-47-го Президента и его сторонников сложно…

10.04.25 Маятник качнулся вправо

Так что не надо делать удивлённое лицо и плакать про «поворот вправо». Это закономерная реакция на…

08.04.25 Драп населения из Канады идет по нарастающей

На все вышеперечисленное накладываем низкую рождаемость среди канадцев – 1.3 ребенка на женщину…

06.04.25 «Позвольте Вам выйти вон!»

Не стоит даже пересказывать всю злобную ахинею британского МИДа; тут скорее следует вспомнить…

05.04.25 Левые выбирают «Бенито»?

Беннет не получит на следующих выборах ни 23 и ни 20 мандатов. По мере приближения выборов ему…

03.04.25 Стул недоверия

И все это будет происходить на глазах у всего народа. Теракты один за другим, люди гибнут, а Ронен…

01.04.25 Как с ними противно!

Наши тутошние храбрые люди, кричащие о Трампе как о диктаторе, по какой-то непонятной мне причине…

Площадка

Идентификация спорна

Фейки давно уже вышли на самый высокий уровень. Как это было в 2018-м с видео, где Дональд Трамп якобы призывал бельгийцев выйти из Парижского соглашения по климату... Осенью 2023-го фейковое видео опять использовалось в попытке дискредитировать Трампа на старте президентской гонки.

24.03.2024 Площадка Сергей Лукашкин КО

Как защитить себя в эпоху дипфейков

Как предохраняться от новой реальности? (Фото: «Nautilus»)


В СМИ и Telegram-каналах прокатилась волна новостей о том, как мошенники подделывают голоса людей при помощи нейросетей, чтобы вымогать деньги у их знакомых и родственников.

При этом злоумышленники используют профили в соцсетях, чтобы воссоздать точный «цифровой портрет» для большей убедительности. Как нам всем теперь жить в новой реальности, где нельзя верить даже тому, что видишь?

Кто страдает от дипфейков

В контекстеСеверокорейские хакеры должны сами наворовать себе на компьютер С того момента северокорейские кибервойска существенно расширились. Хакеры из КНДР работают теперь не только в Китае, но обосновались еще и в Малайзии и России; по крайней мере, так считает бывший советник президента Южной Кореи по безопасности Лим Чен Ин.

От дипфейков достается не только блогерам — мошенничество уже достигает колоссальных масштабов. В январе этого года злоумышленники убедили сотрудника международной корпорации в Гонконге перевести им $25 млн при помощи видео дипфейка с его начальником и коллегами. А в 2020-м менеджер банка в ОАЭ не распознал фальшивый голос начальника и совершил переводы на сумму $35 млн.

Кроме того, страдает индустрия профессионального озвучивания. Яркий пример — недавний кейс, когда актриса дубляжа подала в суд на «Тинькофф» за то, что ее голос использовали в аудиорекламе. Якобы она давала согласие лишь на то, чтобы голосом пользовались для внутренних нужд и обучения ассистента «Олега». А в итоге обнаружила его в базе сервиса Tinkoff VoiceKit и других площадках для продажи телеканалам и стриминговым сервисам.

Фейки давно уже вышли на самый высокий уровень. Как это было в 2018-м с видео, где Дональд Трамп якобы призывал бельгийцев выйти из Парижского соглашения по климату.

Тогда ролик разместила Фламандская социалистическая партия, чтобы привлечь внимание к проблеме. Осенью 2023-го фейковое видео опять использовалось в попытке дискредитировать Трампа на старте президентской гонки. О том, к чему могут привести подобные методы, высказались члены Конгресса в открытом письме директору национальной разведки...

Наконец, дипфейки все чаще стали использовать для создания интимных видео с реальными людьми без их согласия.

И тут под угрозой может оказаться любой, кому захотят отомстить бывшие партнеры или коллеги.

Может, просто все запретить?

В контекстеФальшивые билеты, пропавшие видеозаписи Всего на финальный матч было продано 75 тысяч билетов, однако 28 мая к стадиону приехали 110 тысяч человек. Присутствие 35 «дополнительных» тысяч болельщиков — с поддельными билетами или вовсе без них — и спровоцировало хаос.

В даркнете, по данным СМИ, можно заказать видео-дипфейк с любым человеком за $20 тыс. Чаще всего это схемы с переводом криптовалют или фальшивыми розыгрышами. Следом идут порнографические видео, которые используют для шантажа.

Все это — «слепая» зона, которая никак не контролируется, пока не наступают реальные последствия в виде вымогательства или кражи.

Но об угрозах, которые несут дипфейки уже начали задумываться на уровне государств. После недавнего скандала с фальшивым эротическим видео певицы Тейлор Свифт о проблеме заговорили даже в Белом доме. А СЕО Microsoft Сатья Наделла призвал всех представителей IT-индустрии нести ответственность за подобные технологии и разработать меры по контролю за ними.

Чтобы бороться с дипфейками руководитель OpenAI Сэм Альтман и его коллеги предлагают «прокачать» генеративные сервисы так, чтобы они автоматически маркировали весь контент, который создают. В некоторых приложениях разработчики сами вводят ограничения: например, в Veritone можно сгенерировать звук только с утвержденными голосами.

Уже есть детекторы голоса и видео, которые анализируют запись, чтобы распознать фейк. К примеру, детектор от Intel определяет подлинность видео по тому, как меняется цвет лица во время разговора и движения. Есть и другие сервисы для распознавания дипфейков: Deeptrace, Sensity, Amber Video, Truepic.

А что же в России?

В контекстеЧто может Искусственный Интеллект? Вот когда программа, тренированная обыграть в шахматы чемпиона мира, скажет, что шахматы ее достали и она хочет сыграть в «дурачка» — за ней можно признать подлинный интеллект. И когда она сделает то, чего еще не было.

Увы, сейчас никакой ответственности за создание дипфейков в России нет. Исключение — создание порнографических видео, существование которых вы можете доказать. Как только сгенерированные видео или голос попали в сеть, можно заявлять о моральном или материальном ущербе.

Шансов отстоять свою идентичность больше, если с помощью фейков выманивают деньги или пытаются шантажировать. Кроме того, вы можете заставить удалить запись из сети — воспользовавшись «правом на забвение», которое закреплено в ГК.

При этом дипфейки уже называют «орудием гибридной войны»: только за первые полгода 2023-го в «Ру» сегменте появилось 1600 уникальных фейков и 5 млн их копий.

Это соответственно на 10% и 42% больше, чем за тот же период 2022-го. В прошлом году впервые прозвучали призывы разрабатывать алгоритмы для распознавания дипфейков, а сам термин хотят добавить в статьях УК о мошенничестве.

На прошлогоднем ПМЭФ также была представлена система мониторинга дипфейков под названием «Зефир». Ее разработали в АНО «Диалог регионы». Система работает на базе ИИ и распознает видео и голосовые дипфейки в режиме онлайн: алгоритмы расшифровывают аудио в текст и ищут дубликаты, а также распознают съемку на хромакее и другие артефакты ИИ.

Разработчики утверждают, что точность «Зефира» составляет 81%, однако для широкого пользования сервис пока недоступен.

Пока все это — лишь первые попытки сдержать волну дипфейков, которые приводят к все большим потерям, финансовым и репутационным. Что же мешает взять дипфейки под госконтроль, как это было, например, с контрафактным алкоголем?

Прежде всего то, что технология развивается и распространяется совсем по другим законам, нежели конкретный товар. И если производство и продажу алкоголя государство, в той или иной степени, контролирует столетиями, то массовому распространению генеративных сетей, от силы, 5 лет.

За это время нам пока не удалось сформировать единых стандартов и механизмов для их регулирования. Самым перспективным выглядит вариант обязать разработчиков добавлять «водяные знаки», чтобы мы сразу могли отличить сгенерированное видео или голос. Но как быть с иностранными сервисами? Ответа пока нет.

Эпоха постправды

В контекстеПротивостояние США и Китая в сфере искусственного интеллекта Когда же речь заходит о «фундаментальных моделях», которые дают толчок развитию генеративных ИИ, Америка оказывается уверенно впереди. ChatGPT и стоящая за ним новаторская модель, последняя версия которой называется GPT-4, являются детищем американского стартапа OpenAI.

Хотя технология создания видео или голоса при помощи ИИ сравнительно молодая, остановить ее развитие вряд ли получится. Мы уже выпустили джина из бутылки, и загнать его обратно не выйдет.

Пока что распознать подделку можно по специальным маркерам. Например, нарушение пропорций, нехарактерный акцент, неуместные паузы и неправильные интонации. Часто в дипфейках заметны артефакты в виде пикселей, поплывших контуров, неестественных складок.

Но с развитием технологий отличить дипфейки станет почти невозможно, да и сегодня они вводят в заблуждение большинство.

Дальнейшие сценарии могут быть разными. Негативный мы уже наблюдаем: доверие к СМИ неуклонно падает, а следом мы разучимся доверять любым видео или голосам в личной переписке. Одновременно многие начнут пользоваться этим для манипуляций общественным мнением, дезинформации и пропаганды. А что, если кто-то использует дипфейк, чтобы посадить невиновного?

Но и позитивный вывод тоже есть: ведь технологию можно использовать во благо. Генерация видео и голоса в рекламе или кино поможет многократно снизить затраты на производство и ускорить процесс.

А еще — сделать то, что людям не под силу: выполнять рискованные трюки и перевоплощения, «омолодить» пожилых актеров или «оживить» умерших.

Что касается личных стратегий по борьбе с дипфейками, то их тоже две:

  • Выключить компьютер, удалить все аккаунты и стереть свой «цифровой след».
  • Наоборот, выкладывать как можно больше, чтобы потом было легко доказать, что на видео не вы.
  • Как, например, сделал американский художник Хасан Элаха, который был ошибочно внесен в список подозрительных лиц ФБР. После нескольких месяцев допросов с Элахи, наконец, сняли подозрения, но посоветовали держать ФБР в курсе его местонахождения. Что он и сделал — транслируя все подробности своей жизни онлайн.

    В итоге получился интерактивный арт-проект, состоящий из фото, видео, диалогов, геолокаций, перемещений, чеков и даже банковских транзакций.

    Как итог — всем нам нужно принять новую реальность, где на смену цифровой экономике приходит экономика доверия.

    Это значит, что главным капиталом становятся доверие со стороны клиента или пользователя, основанное на репутации компании или СМИ.

    И, конечно же, нужно вырабатывать единые этические нормы и правовое регулирование, вводить ответственность за дипфейки, даже если они еще не причинили вреда.

    * * *

    Сергей Лукашкин

    - директор научно-образовательного центра «Цифровые технологии в образовании» ВШМ СПбГУ

    КО

    Как с ними противно!

    01.04.2025 Кстати
    Наши тутошние храбрые люди, кричащие о Трампе как о диктаторе, по какой-то непонятной мне причине…

    Хранители порога

    20.05.2025 Facebook
    Как повел бы себя в ту ночь Нетаниягу, мы можем только гадать, но фактическую ответственность за…

    Все новости

    03:30 Испанцы возмущены - почему голую Бьянку Цензори не арестовали?

    Открытый рынок на Майорке никак не может прийти в себя после шока. Среди бела дня Канье Уэст отправил свою практически голую жену прогуляться между рядами.

    02:30 Пять самых важных событий 19 мая 2025

    Сегодня мировое информационное поле перенасыщено новостями. Скорость их появления бьет все рекорды. Чтобы ничего не пропустить в этом бешеном потоке, самые ИНТЕРЕСНЫЕ СОБЫТИЯ 19 мая 2025 мы собрали в…

    02:30 Пять самых важных событий 19 мая 2025

    Сегодня мировое информационное поле перенасыщено новостями. Скорость их появления бьет все рекорды. Чтобы ничего не пропустить в этом бешеном потоке, самые ИНТЕРЕСНЫЕ СОБЫТИЯ 19 мая 2025 мы собрали в…

    02:15 Сколько шагов в день нужно делать, чтобы уменьшить риск развития рака – ответ экспертов

    Ученые назвали количество шагов, которые стоит делать каждый день для минимизации риска развития онкологических заболеваний.

    02:07 N12: ХАМАС отклонил предложение о «частичной» сделке

    На переговорах в Дохе ХАМАС отклонил предложение о «частичной» сделке, переданное Израилем. ХАМАС продолжает настаивать на международных гарантиях того, что боевые действия в Газе прекратятся.

    01:31 Невидимая связь: как планеты управляют солнечными циклами

    Но ученые уже давно знают: даже это небесное светило живет по своим внутренним часам, и его «распорядок дня» не так прост, как кажется. Более того, оказывается, Солнце и само находится под влиянием…

    01:31 Невидимая связь: как планеты управляют солнечными циклами

    Но ученые уже давно знают: даже это небесное светило живет по своим внутренним часам, и его «распорядок дня» не так прост, как кажется. Более того, оказывается, Солнце и само находится под влиянием…

    01:30 Погода в Израиле на вторник

    Немного похолодает.

    01:09 Нетаниягу прокомментировал угрозы европейских стран ввести санкции против Израиля

    Биньямин Нетаниягу прокомментировал совместное заявление премьер-министров Франции, Великобритании и Канады, в котором они пригрозили Израилю санкциями.

    00:50 ДТП на 444-й трассе, состояние одного из пострадавших тяжелое

    На 444-й трассе возле Тайбе произошла авария с участием двух легковых автомобилей. Парамедики сообщили, что в результате ДТП пострадали два человека, состояние одного из пострадавших (19-летней…

    00:31 Почему зарядка телефона у кровати — плохая идея

    Многие из нас не представляют себе ночь без смартфона под рукой — он подает сигнал будильника, помогает заснуть под подкаст или лежит на случай экстренного звонка.

    00:31 Почему зарядка телефона у кровати — плохая идея

    Многие из нас не представляют себе ночь без смартфона под рукой — он подает сигнал будильника, помогает заснуть под подкаст или лежит на случай экстренного звонка.

    00:16 Недавно женился: в Газе погиб молодой религиозный сионист

    Служил бойцом в 601-м саперном батальоне.

    23:55 Скрытое еврейское единство – ещё две истории

    «Недавно я писала о той невидимой, но ощутимой связи, которая сегодня объединяет евреев сильнее, чем когда-либо»

    23:55 Почему 72 миллиона лет назад в Канаде погибли тысячи динозавров

    Группа палеонтологов проводит раскопки в провинции Альберта в Канаде, чтобы выяснить, что случилось с тысячами динозавров, погибшими в одно мгновение около 72 миллионов лет назад.

    23:55 Почему 72 миллиона лет назад в Канаде погибли тысячи динозавров

    Группа палеонтологов проводит раскопки в провинции Альберта в Канаде, чтобы выяснить, что случилось с тысячами динозавров, погибшими в одно мгновение около 72 миллионов лет назад.

    23:50 ЦАХАЛ сообщил о гибели в секторе Газы сержанта Йосефа Иегуды Хирака

    Разрешено к публикации: 19 мая в бою на севере сектора Газы погиб сержант Йосеф Иегуда Хирак, 22 года, из Хариша, боец 601-го инженерного батальона бронетанковой бригады «Иквот а-Барзель» (401).

    23:42 Хуситы объявили о внесении морского порта Хайфы в свой банк целей

    Террористическое движение «Ансар Аллах» (хуситы) объявило о «морской блокаде» Хайфы и внесении порта в «банк своих целей».

    23:41 Боец ЦАХАЛ погиб на севере сектора Газы

    Стало известно имя бойца Армии обороны Израиля, павшего смертью храбрых на севере сектора Газы

    23:23 «Боевики ХАМАС промыли мозги каждому заложнику»

    Депутат правящей партии сделала жесткое заявление – и не отказалась от своих слов, вызвавших бурю в соцсетях

    23:13 В результате ДТП на выезде из Модиина погибла женщина

    На выезде из Модиина произошло столкновение двух легковых автомобилей. Парамедики «Маген Давид Адом» передали, что в результате аварии от полученных травм скончалась женщина примерно 65 лет.

    23:11 Посол США в Израиле опроверг статью Washington Post: «Чепуха»

    Посол Соединённых Штатов в Израиле Майк Хакаби категорически опроверг публикацию в The Washington Post

    23:11 Посол США в Израиле опроверг статью Washington Post: «Чепуха»

    Посол Соединённых Штатов в Израиле Майк Хакаби категорически опроверг публикацию в The Washington Post

    23:10 Прогноз погоды на 20 мая – израильтянам советуют беречься солнца

    Во вторник, 20 мая, в Израиле сохранится стабильная погода. Практически по всей территории страны ожидается ясное небо и отсутствие существенных температурных изменений по сравнению с предыдущими…

    22:59 «Если не закончите войну в Газе – мы вас бросим»

    Американские СМИ: приближённые Дональда Трампа направили Израилю жесткое предупреждение

    22:51 Стрельба в порту Яффо, есть раненные - подробности

    Вечером в понедельник, 19 мая, в районе порта Яффо произошёл вооружённый инцидент. По информации израильской полиции, в результате стрельбы пострадали как минимум два человека.

    22:45 Символ советского балета: умер один из самых выдающихся хореографов 20 века

    В 1948 году Григорович начал делать собственные постановки.

    22:43 Раввин Гольдшмидт выразил обеспокоенность всплеском антисемитизма в ЕС

    Он заявил, что во многих частях Европы антисемитская риторика вновь стала политически приемлемой. По его мнению, угроза исходит как от левых, так и от правых политиков.

    22:43 Раввин Гольдшмидт выразил обеспокоенность всплеском антисемитизма в ЕС

    Он заявил, что во многих частях Европы антисемитская риторика вновь стала политически приемлемой. По его мнению, угроза исходит как от левых, так и от правых политиков.

    22:37 Как убрать неприятный запах пота, не маскируя его дезодорантами, рассказал врач

    Доктор Сина Гадири поделился неожиданным, но действенным решением проблемы неприятного запаха под мышками — даже в тех случаях, когда традиционные дезодоранты не справляются.

    22:31 В ОАЭ будут учить детей искусственному интеллекту

    Со следующего учебного года все государственные школы Объединенных Арабских Эмиратов начнут преподавание нового предмета — «Искусственный интеллект».

    22:31 В ОАЭ будут учить детей искусственному интеллекту

    Со следующего учебного года все государственные школы Объединенных Арабских Эмиратов начнут преподавание нового предмета — «Искусственный интеллект».

    22:28 Бен Гвир заявил, что возобновление помощи Газе будет серьезной ошибкой

    Министр национальной безопасности Итамар Бен Гвир осудил решение Премьер-министра Биньямина Нетаниягу возобновить оказание гуманитарной помощи Газе, утверждая, что поставки попадут в руки ХАМАС.

    22:28 Координатор по вопросу заложников, находясь в Дохе, общался с семьями весь день

    Правительственный координатор по освобождению заложников Галь Хирш общался по телефону из Дохи с семьями заложников, информируя их о развитии ситуации с освобождением их близких.

    22:28 ООН: Помощь, попавшая в Газу - капля в море

    Глава гуманитарной помощи ООН Том Флетчер сообщил, что сегодня Израиль разрешил девяти грузовикам с гуманитарной помощью въехать в Газу через контрольно-пропускной пункт Керем Шалом после 11 недель…

    22:28 В Израиле заявили, что в Газу въехали пять грузовиков с гуманитарной помощью

    Координатор министерства обороны по правительственной деятельности на территориях (COGAT) объявил, что сегодня в Газу через контрольно-пропускной пункт Керем-Шалом въехали пять грузовиков с…

    22:28 Трое израильских арабов обвиняются в контрабанде наркотиков в Газу

    Государственные прокуроры предъявили обвинение трем израильским арабам после того, как они были арестованы силами безопасности по подозрению в контрабанде наркотиков в Газу с помощью беспилотника.

    22:28 Представитель Израиля: В Газу поступят мука, детское питание и медикаменты

    Израильский чиновник заявил, что в Газу будет разрешена поставка муки, детского питания и медикаментов.

    Карикатура дня

    20.05.2025 Facebook
    Eurovosion-2025
    Нашей красавице и умнице Юваль Рафаэль…
    «Служить или не служить, вот в чём вопрос?»
    Нетаниягу в поисках директора ШАБАКа

    Мнение

    Смерть хамелеона
    Facebook Тимур Ваулин
    Новый папа Лев XIV, он же Боб Превост - уроженец мафиозного Чикаго, августинец-кокаинист и не особо маскирующийся «освобожденец», wokeнутый на всю голову трампоненавистник. Он оплакивал наркомана и уголовника Джорджа Флойда и благословлял BLM. Даже не хочу предрекать, что он будет творить и…

    Мировая пресса

    Новый папа Римский вызывает множество вопросов
    Независимая газета Аналитика и прогнозы
    Даже первые проповедь и обращения Льва XIV вызвали вопросы. Он призвал сделать «все возможное для скорейшего достижения подлинного, справедливого и прочного мира» на Украине. Возникает ощущение, что папа обращается к шаблонной риторике, не вдаваясь в детали проблем.

    Аналитика

    США и Саудовская Аравия подписали крупнейшую оружейную сделку
    Гордиев узел Ближнего Востока Редакция
    Встреча между Трампом и Салманом прошла с улыбками и дружескими похлопываниями по плечу — разительный контраст с прежними саммитами, когда лидер Саудовской Аравии был втянут в скандал вокруг убийства журналиста Джамаля Хашогги в 2018 году.

    Ревью

    Старый новый Голливуд
    Сноб Василий Покровский
    Будущие звезды Нового Голливуда в непосредственной близости видели, как динамично меняется мир и как кино не поспевает за современностью. На больших экранах шли все те же вестерны и красочные мюзиклы, снятые в студийных декорациях, которые смотрели их родители.

    Фотография дня

    17.05.2025 Nautilus
    Дутар
    Индия
    Дом-цветок
    Воздушный танец
    Вас может заинтересовать...
    Created by: