dtЦифровая трансформацияDigital Transformation2522-96132524-2822Educational Establishment “Belarusian State University of Informatics and Radioelectronics”10.38086/2522-9613-2020-2-51-57dt-515Research ArticleТЕХНИЧЕСКИЕ НАУКИTECHNICAL SCIENCESПределы и риски цифровой трансформацииLimits and Risks of Digital Transformationhttps://orcid.org/0000-0002-8340-5796АхромееваТ. С.AkhromeevaT. S.

Кандидат физико-математических наук, научный сотрудник.

Миусская пл., д. 4, 125047, Москва

Candidate of Sciences (Physics and Mathematics), Researcher.

4 Miusskaya Sq., 125047 Moscow

maglichek@mail.ruhttps://orcid.org/0000-0001-6041-1926МалинецкийГ. Г.MalinetskiyG. G.

Доктор физико-математических наук, профессор.

Миусская пл., д. 4, 125047, Москва

Dr. Sc. (Physical and Mathematical), Department Leader.

4 Miusskaya Sq., 125047 Moscow

GMalin@Keldysh.ruhttps://orcid.org/0000-0002-1699-9942ПосашковС. А.PosashkovS. A.

Кандидат физико-математических наук, доцент, декан Финансового университета при Правительстве РФ.

Ул. Щербаковская, 38, Смоленск, Смоленская обл., 214018, Москва

Candidate of Sciences (Physics and Mathematics), Associate Professor, Dean of the Financial University under the Government of the Russian Federation.

38 Shcherbakovskaya Str., 214018 Smolensk, Smolensk region

SPosashkov@fa.ruИнститут прикладной математики им. М. В. Келдыша, РАНRAS Keldysh Institute of Applied MathematicsФинансовый университет при правительстве РФFinancial University under the Government of the Russian Federation202011072020025157Copyright © Ахромеева Т.С., Малинецкий Г.Г., Посашков С.А., 20202020Ахромеева Т.С., Малинецкий Г.Г., Посашков С.А.Akhromeeva T.S., Malinetskiy G.G., Posashkov S.A.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://dt.bsuir.by/jour/article/view/515

В настоящее время процесс цифровой трансформации активно идет в экономике, науке, образовании и в обществе в целом. С ним связан ряд ограничений и рисков, рассматриваемых в статье. Большой класс ограничений позволяет выявить математическая теория сложности. Точное решение ряда простых по виду проблем с небольшим объемом входных данных требует ресурсов, многократно превышающих возможности всех доступных компьютеров.

На «границе» между естественным и искусственным интеллектом имеет место «когнитивный барьер». Это приводит к тому, что мы, как правило, не можем воспользоваться результатами работы ряда систем с искусственным интеллектом, чтобы скорректировать свои стратегии. Мы и машины «думаем» по-разному. Их приходится рассматривать как «черные ящики». Весьма вероятно, что тестер систем искусственного интеллекта станет одной из массовых профессий уже в недалеком будущем.

Приведены примеры, показывающие, что «перевод» с «непрерывного» на «дискретный» язык может приводить к качественно различному поведению математических моделей. В ряде задач, связанных с вычислительным экспериментом, это может быть весьма существенно.

Большие риски возникают при переходе в «быстрый мир», при приближении к «барьеру Лема». Это происходит, когда системам искусственного интеллекта препоручаются стратегически важные задачи, которые они должны решать в темпе, недоступном для человека.

Проведенный анализ показывает, что управление рисками цифровой трансформации и её ограничений требует внимания научного и экспертного сообщества, а также активных участников этого процесса.

Currently, the process of digital transformation is actively going on in the economy, science, education, and society as a whole. This process has a number of restrictions and risks we consider. The mathematical theory of complexity reveals a large class of the restrictions. The exact solution of a number of simple-looking problems with a small amount of input data requires resources many times greater than the capabilities of all available computers.

On the "border" between natural and artificial intelligence lies the "cognitive barrier". This, as a rule, makes it impossible to use the results of a number of artificial intelligence systems to adjust our strategies. We and computers "think" differently. They have to be considered as "black boxes". It is very likely that the tester of artificial intelligence systems will become one of the mass professions in the close future.

We give examples to show that the "translation" from "continuous" to "discrete" language can lead to qualitatively different behavior of mathematical models. In a number of problems associated with a computational experiment this can be quite significant.

Great risks arise when passing to the "fast world", approaching the "Lem's barrier". It happens when artificial intelligence systems are assigned strategically important tasks that they must solve at a speed inaccessible to humans.

The analysis shows that managing the risks of digital transformation and its limitations requires the attention of the scientific and expert community, as well as active participants in this process.

цифровая трансформацияриски и ограничениятест Тьюрингасложностькогнитивный барьердискретная и непрерывная реальностьискусственный интеллектбыстрый миртестер систем с искусственным интеллектомбарьер Лемаdigital transformationrisks and limitationsTuring testcomplexitycognitive barrierdiscrete and continuous realityartificial intelligencefast worldtester of systems with artificial intelligenceLem's barrierРабота поддержана РФФИ проекты 19-0100602 и 18-01-00619ReferencesШваб, К. Четвертая промышленная революция/ К. Шваб // Top Business Awards. - М.: Издательство «Э», 2017. - 208 с.Schwab K. Shaping the fourth industrial revolution. Portfolio Penguin, 2018.Программа «Цифровая экономика Российской Федерации» - Распоряжение Правительства РФ от 28 июля 2017 г. № 1632-р.Decree of the Government of the Russian Federation of July 28, 2017 #1632-r. Programma "Cifrovaja ehkonomika Rossijskoj Federacii".Введение в криптографию / Под ред. В.В.Ященко/ 3-е изд. - М.: МЦНМО: «ЧеРо», 2000. - 288 с.Vvedenie v kriptografiju.Ed. V.V.Jashhenko. MCNMO, 2000.Комаров, М. М. Физическое проектирование субмикронных СБИС. Проблемы, задачи, алгоритмы/ М. М. Комаров// Будущее прикладной математики: Лекции для молодых исследователей. От идей к технологиям. - М.: КомКнига, 2008. С.230-254.Komarov M. M. Fizicheskoe proektirovanie submikronnykh SBIS. Problemy, zadachi, algoritmy. Budushhee prikladnoj matematiki: Lekcii dlja molodykh issledovatelej. Ot idej k tekhnologijam. KomKniga, 2008.Владимиров, В. А. Управление риском. Риск, устойчивое развитие, синергетика./ В. А. Владимиров, Ю. Л. Воробьев и др./ М.: Наука, 2000. - 432 с. - (Кибернетика: неограниченные возможности и возможные ограничения)Vladimirov V.A., Vorobev Yu.L. et al. Upravlenie riskom. Risk, ustojchivoe razvitie, sinergetika. Nauka, 2000.Тьюринг, А. Может ли машина мыслить?/ А. Тьюринг// Саратов: Колледж, 1999. - 100 с.Turing A.M. (1950) Computing machinery and intelligence. Mind LIX(236), pp. 433-460.Ли, К. Ф. Сверхдержавы искусственного интеллекта: Китай, Кремниевая долина и новый мировой порядок / К. Ф. Ли// М.: Манн, Иванов и Фербер, 2019. - 240 с.Lee K. F. AI Superpowers: China, Silicon Valley, and the New world order. - Houghton Mifflin Harcourt, Boston New York, 2018.Князятов, С.А., Малинецкий Г.Г. Решение задачи распознавания блефа в игре «верю - не верю» с помощью алгоритмов обучения с подкреплением// Препринт ИПМ им. М.В. Келдыша. 2018, №170. - 21 с.Knyazyatov S.A., Malinetskiy G.G. The solution of the problem of bluff detection in the game "I-doubt-it" based on reinforcement learning// KIAM Preprint. 2018, #170. [In Russian]Малинецкий Г.Г., Потапов А.Б., Подлазов А.В. Нелинейная динамика: Подходы, результаты, надежды/ Изд.сте-реотип. - М.: URSS, 2016. - 280 с. - (Синергетика: от прошлого к будущему. №28)Malinetskiy G.G., Potapov A.B., Podlazov A.V. Nelinejnaja dinamika: Podkhody, rezul'taty, nadezhdy. URSS, 2016.Тихонов, А.Н., Арсенин В.Я. Методы решения некорректных задач. - М.: Наука, 1974. - 224 с.Tikhonov A.N., Arsenin V.Ya. Metody reshenija nekorrektnykh zadach. Nauka, 1974.Кнут, Д. Искусство программирования для ЭВМ: Т.2. Получисленные алгоритмы. - М.: Мир, 1977. - 728 с.Knuth D.E. The art of computer programming: Vol.2. Seminumerical Algorithms. Addison-Wesley, 1969.Самарский, А. А., Попов Ю.П. Разностные схемы газовой динамики. - М.: Наука, 1975. - 352 с.Samarskiy A.A., Popov Yu.P. Raznostnye skhemy gazovoj dinamiki. Nauka, 1975.Режимы с обострением. Эволюция идеи: Законы коэволюции сложных структур/ Сборник статей/ Ред. Г.Г.Ма-линецкий. - М.: Наука, 1998. - 255 с. - (Кибернетика: неограниченные возможности и возможные ограничения)Rezhimy s obostreniem. Ehvoljucija idei: Zakony koehvoljucii slozhnykh struktur.Ed. G.G.Malinetsiy. Nauka, 1998.Платонов, А. К. Проблемы и перспективы робототехники/ Будущее прикладной математики. Лекции для молодых исследователей. - М.: Эдиториал УРСС, 2005. С.315 342.Platonov A.K. Problemy i perspektivy robototekhniki/ Budushhee prikladnoj matematiki. Lekcii dlja molodykh issledovatelej. URSS, 2005. P.315 342.Лем, С. Библиотека XXI века. - М.: АСТ, 2003. - 602 с. - (Philosophy)Lem S. Weapon systems of the twenty first century or the upside-down evolution. 1983.Малинецкий, Г. Г. Риски цифровой реальности/ Проектирование будущего. Проблемы цифровой реальности. Вып.2. - М.: ИПМ им. М.В.Келдыша, 2019. С.228-249.Malinetskiy G.G. The risks of digital reality. Proektirovanie budushhego. Problemy cifrovoj real'nosti. Is.2. KIAM, 2019. P.228-249. [In Russian]

The authors declare that there are no conflicts of interest present.