innovationИнформация и инновацииInformation and Innovations1994-24432949-2157МЦНТИ10.31432/1994-2443-2020-15-1-23-35innovation-11Research ArticleИНФОРМАЦИОННЫЕ ПРОЦЕССЫInformation processesРазвитие и распространение технологий «deepfake»: угрозы, риски и вызовы для глобального информационного сообществаDevelopment and diffusion of «deepfake» technologies: threats, risks and challenges for the global information communityМунД. В.MunD. V.

кандидат экономических наук, заместитель директора ФГБУ «Агентство «Эмерком» МЧС России, со-основатель Международного экспертного сообщества «RISK.TODAY»

Ph.D., Deputy Director EMERCOM Agency Ministry of Emergency Situations (Russia), cofounder of the International Expert Society «RISK.TODAY”

moon@risk.todayПопетаВ. В.PopetaV. V.

кандидат технических наук, основатель и президент

Ph.D., founder and President

info@risk.todayФГБУ «Агентство «Эмерком» МЧС России; Международное экспертное сообщество «RISK.TODAY»РоссияEMERCOM Agency Ministry of Emergency Situations (Russia); International Expert Society «RISK.TODAY”Russian FederationМеждународное экспертное сообщество «RISK.TODAY»РоссияInternational Expert Society «RISK.TODAY”Russian Federation2020300320201512335Copyright © Мун Д.В., Попета В.В., 20202020Мун Д.В., Попета В.В.Mun D.V., Popeta V.V.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://journal.icsti.int/jour/article/view/11

В статье исследуется социальный феномен «fake news», анализируются тенденции развития технологий «машинного обучения», позволяющие при помощи искусственного интеллекта создавать визуально «достоверные», не поддающиеся экспертизе «deepfake» фото и видео, даются прогнозы угроз и рисков глобального характера, которые неизбежно последуют в случае отсутствия должного контроля за применением возможностей передовых информационных технологий.

The article explores the social phenomenon of “fake news”, analyzes the development trends of “machine learning” technologies, which allow using artificial intelligence to create visually “reliable” “deepfakes” photos and videos, that are not amenable to any expertise, and gives the forecasts of global threats and risks which will follow without the proper control over the application of the capabilities of advanced information technologies.

фейк-ньюсdeepfakesИнтернетсоциальные сетиFacebookWhatsAppинформационный взрывискусственный интеллектгенеративно-состязательные нейросети«Часы судного дня»информационная культура личностиfake newsdeepfakesInternetsocial networksFacebookWhatsAppinformation explosionartificial intelligenceGenerative adversarial network (GAN)Doomsday Clockpersonality information cultureReferencesBarbara Becker, Josef Wehner. Electronic Networks and Civil Society. p. 81 — SUNY Press, 2001. — ISBN 978-0-79145-016-1.Barbara Becker, Josef Wehner. Electronic Networks and Civil Society. p. 81 — SUNY Press, 2001. — ISBN 978-0-79145-016-1Ульяна Скойбеда «400 фейков кемеровского пожара: Почему люди так легко поверили в большую ложь после трагедии в ТРЦ «Зимняя вишня», «Комсомольская правда» от 02.04.18 г.Ul’yana Skojbeda «400 fejkov kemerovskogo pozhara: Pochemu lyudi tak legko poverili v bol’shuyu lozh’ posle tragedii v TRC «Zimnyaya vishnya», «Komsomol’skaya pravda» ot 02.04.18 g.URL: http://publication.pravo.gov.ru/Document/View/0001201903180031URL: http://publication.pravo.gov.ru/Document/View/0001201903180031URL: https://www.forbes.com/sites/tomcoughlin/2018/11/27/175-zettabytes-by2025/#b5fe21054597URL: https://www.forbes.com/sites/tomcoughlin/2018/11/27/175-zettabytes-by2025/#b5fe21054597URL: https://www.rbc.ru/politics/01/09/2019/5d6ae9a79a79475cc886b53cURL: https://www.rbc.ru/politics/01/09/2019/5d6ae9a79a79475cc886b53cБорислав Козловский. «Максимальный репост: как соцсети заставляют нас верить фейковым новостям», М, Альпина Паблишер, 2018.Borislav Kozlovskij. «Maksimal’nyj repost: kak socseti zastavlyayut nas verit’ fejkovym novostyam», M, Al’pina Pablisher, 2018.The spread of true and false news online «Soroush Vosoughi1, Deb Roy1, Sinan Aral2, *Science 09 Mar 2018.The spread of true and false news online «Soroush Vosoughi1, Deb Roy1, Sinan Aral2,*Science 09 Mar 2018.URL: https://www.vedomosti.ru/opinion/articles/2019/03/10/796034-mozhno-pobeditzakonomURL: https://www.vedomosti.ru/opinion/articles/2019/03/10/796034-mozhno-pobeditzakonomURL: http://6abc.com/news/fake-news-isdominating-facebook/1621221/URL: http://6abc.com/news/fake-news-isdominating-facebook/1621221/URL: https://blogs.nvidia.com/blog/2017/12/03/nvidia-research-nips/URL: https://blogs.nvidia.com/blog/2017/12/03/nvidia-research-nips/URL: https://www.vice.com/en_us/article/gydydm/gal-gadot-fake-ai-pornURL: https://www.vice.com/en_us/article/gydydm/gal-gadot-fake-ai-pornThe Streisand Effect and Censorship Backfire, International Journal of Communication 9 (2015): pp. 656—671.The Streisand Effect and Censorship Backfire, International Journal of Communication 9 (2015): pp. 656-671.URL: https://www.theverge.com/tldr/2018/4/17/17247334/ai-fake-news-video-barackobama-jordan-peele-buzzfeedURL: https://www.theverge.com/tldr/2018/4/17/17247334/ai-fake-news-videobarack-obama-jordan-peele-buzzfeedURL: https://ru.krymr.com/a/29347608.htmlURL: https://ru.krymr.com/a/29347608.htmlURL: https://www.defenseone.com/technology/2019/03/next-phase-ai-deep-fakingwhole-world-and-china-ahead/155944/URL: https://www.defenseone.com/technology/2019/03/next-phase-ai-deep-fakingwhole-world-and-china-ahead/155944/URL: https://lenta.ru/articles/2020/01/01/cybercrime2020URL: https://lenta.ru/articles/2020/01/01/cybercrime2020URL: https://hightech.plus/2019/09/24/dipfeiki-stanut-neotlichimi-ot-originalov-vtechenie-6-12-mesyacevURL: https://hightech.plus/2019/09/24/dipfeiki-stanut-neotlichimi-ot-originalov-vtechenie-6-12-mesyacevURL: https://www.cnbc.com/2019/09/20/hao-li-perfectly-real-deepfakes-will-arrive-in-6months-to-a-year.htmlURL: https://www.cnbc.com/2019/09/20/hao-li-perfectly-real-deepfakes-will-arrive-in-6months-to-a-year.htmlURL: https://www.scmp.com/tech/appssocial/article/3039978/china-issues-new-rulesclamp-down-deepfake-technologies-usedURL: https://www.scmp.com/tech/appssocial/article/3039978/china-issues-new-rulesclamp-down-deepfake-technologies-usedМун, Д.В. От «Титаника» до «Зимней вишни». Алгоритмы грядущих катастроф : 3-е изд., доп. и перераб. – Москва ; Берлин : ДиректМедиа, 2018. – 352 с. ISBN 978-5-4475-9669-9Mun, D.V., Popeta V.V. Ot «Titanika» do «Zimnej vishni». Algoritmy` gryadushhix katastrof: 3-e izd., dop. i pererab. – Moskva; Berlin: DirektMedia, 2018. – 352 s. ISBN 978-5-4475-9669-9URL: https://www.npr.org/2020/01/23/799047659/the-end-may-be-nearer-doomsdayclock-moves-within-100-seconds-of-midnightURL: https://www.npr.org/2020/01/23/799047659/the-end-may-be-nearer-doomsdayclock-moves-within-100-seconds-of-midnightCisco результаты исследования Интернета «Наглядный индекс развития сетевых технологий декабрь 2018 г.», URL: https://www.cisco.com/c/en/us/solutions/service-provider/visualnetworking-index-vni/index.htmlCisco rezul`taty` issledovaniya Interneta «Naglyadny`j indeks razvitiya setevy`x texnologij dekabr` 2018 g.», URL: https://www.cisco.com/c/en/us/solutions/service-provider/visualnetworking-index-vni/index.html

The authors declare that there are no conflicts of interest present.