На ПМЭФ-2019 спрогнозировали появление в России Росмозгнадзора
Российские компании, занимающиеся искусственным интеллектом и нейросетями, продвинулись так далеко в создании обучающих программ на основе ментальных навыков конкретного человека, что, по замечанию спецпредставителя президента РФ по вопросам цифрового развития Дмитрия Пескова, стоит ожидать в связи с этим появления контролирующего такие технологии сбора и обработки личной информации органа. О том, что уже скоро ждет Россию в этой продвинутой цифровой среде эксперты обсудили 8 июня в последний день Петербургского международного форума.
Залезаем в мозг, не вскрывая черепушки
Не ошибусь, сказав, что сегодня основное внимание участников престижной экспертной площадки было сосредоточено на темах искусственного интеллекта и больших данных. Ситуация складывается таким образом, что дальнейшее развитие и того, и другого требует установки конкретных и обязательных норм как технологического, так и этического плана. И лучше, если они будут закреплены в правовом поле.
В первую очередь необходимо определить точные параметры личных данных, не подлежащих обработке и огласке, и открытых, а следовательно, общедоступных.
С другой стороны, сама история с большими данными и искусственным интеллектом сейчас содержит больше хайпа, чем реального наполнения, считает Дмитрий Песков. Для развития технологий больших данных требуется перейти на новый технологический уклад, который потребует больших вычислительных мощностей и бесконечные объемы памяти, где будет храниться информация. А это не всегда эффективно. Компания Дженерал Моторс, по замечанию эксперта, уже потихоньку свернула программу сбора и анализа больших данных, вложив туда немало средств. Просто в какой-то момент это стало не выгодно.
В то же время есть успешные зарубежные, и отечественные примеры внедрения технологии больших данных и нейросетей, которые помогают предприятиям снизить издержки на производстве за счет прогнозирования непредвиденных ситуаций и генерирования сценариев наиболее оптимальных мер по выходу из критической ситуации.
Российские компании, занимающиеся искусственным интеллектом, при этом продвинулись так далеко в создании обучающих программ на основе ментальных навыков конкретного человека, что, могут уже сейчас в разы повысить эффективность изучения того же английского языка.
«Мы занимаемся тем, что залезаем в мозг человека, не вскрывая черепушки, — пояснил руководитель одной из таких компаний Александр Ларьяновский. — Для того, чтобы создать программу, мы используем не какие-то универсальные представления о том, что требуется человеку для изучения языка, а конкретные индивидуальные ментальные данные. Обработка данных позволяет нам понять, что может вызвать интерес к процессу обучения конкретного человека и на чем в процессе нужно сделать акцент».
Ученый отметил, что разработчики ПО сами были поражены эффектом: «Это оказалось прорывом. потому что, если мы понимаем, что человек не просто умеет читать, а читать бегло или по слогам, то программа автоматически подстраивается под его имеющиеся навыки».
«То есть мы начинаем выстраивать картинку внутреннего мира человека, что позволяет нам делать контент понятным и не рассказывать ему то, что он и так знает, — уточнил Ларьяновский. — Зная, что находится в голове у ученика, мы можем выстраивать конкретную эффективную траекторию обучения с этим конкретным учеником. А дальше — больше. Мы можем точно прогнозировать, как конкретный ученик может сдать экзамен или ЕГЭ».
Такая новаторская обучающая методика на основе нейросетей выходит за рамки существующих стандартов и, по шутливому замечанию Пескова, необходимо уже сейчас готовиться к созданию контролирующего такие технологии органа, к примеру, Росмозгнадзора.
Страшно искусственный интеллект
Мрачен взгляд на развитие ситуации с искусственным интеллектом у управляющего партнера компании «Ашманов и партнеры» Игоря Ашманова, который занимается темой ИИ уже 35 лет. Успешные образовательные эксперименты коллег он воспринимает настороженно, как попытку управлять судьбой человека путем наблюдения извне.
«Само сочетание слов «индивидуальная траектория» меня лично раздражает, — признался эксперт. — Наша компания может выстроить индивидуальную траекторию каждого, кто общается в соцсетях. Но мы этого не делаем. Потому что это чрезвычайно тонкие и токсичные данные, с ними нужно очень аккуратно обходиться».
А что будет завтра? В смысле, по каким правилам в части границ использования ИИ такие продвинутые коллективы ученых будут двигаться в индивидуальные тайники сознания? У Ашманова по этому поводу недобрые предчувствия.
«Нас затаскивают в цифровой мир, не спрашивая нашего разрешения. Решили, что будут экспериментировать. Но ведь экспериментировать-то будут не с данными, а на самом деле с людьми. Такое чувство, что решение принято на неосновательных основаниях. Просто потому что хайп — если мы не успеем, сделают другие и так далее. В результате возникает очень нехороший эффект, который ведет к дискриминации. Потому что выскочить из этой траектории будет нельзя. Если ты захочешь получить кредит или поступить в университет, то тебя спросят где твоя личная траектория. Если ты успел от нее отказаться, ты, скорее всего, будешь дискриминирован», — обрисовал мрачными красками последствия бесконтрольного вхождения в нашу жизнь цифровых технологий Ашманов.
В качестве доказательства уместности скепсиса он привел данные по некоторым компания из США, чьи кадровики уже сегодня не принимают на работу граждан, электронная карта ДНК которых по каким-то соображениям им не приглянулась.
Следующая проблема: отсутствие законодательного ограничения возможности при помощи разных устройств наблюдения вычислять психологическую модель человека, на основании которой можно получить точную карту его психического состояния. А это уже находится за гранью дозволенного.
«Возникает некая элита специалистов, которые знают все обо всех. Зачастую это люди без высшего образования и не обремененные моральными принципами и точно не подписывали бумаг о неразглашении. В такой ситуации один человек может изменить жизнь миллионов», — прогнозирует эксперт.
Более оптимистично смотрит на мир нейросетей министр правительства Москвы Эдуард Лысенко, курирующий цифровой блок. В его понимании, ограничивать развитие технологий запретительными мерами нецелесообразно. Правовой регулирование должно быть, но «если мир идет дальше, а мы в это время стоим на месте, то всегда будем отставать от прогресса». Правительство Москвы, по его словам, искусственного интеллекта не боится и давно выбрало путь освоения инновационных технологий, сворачивать с которого не собирается.
