Искусственный интеллект выходит за пределы экспериментов и все активнее влияет на общественную жизнь. Алгоритмы уже способны создавать виртуальные "государства", моделировать общество, тестировать законы и даже прогнозировать выборы, отмечает заведующий Научной лабораторией иммерсивных технологий и права Института информации, безопасности и права Алексей Костенко в статье "Виртуальное государство: как ИИ переписывает общество и останется ли у человека право на вето? " для ZN. UA.
"Мы вступаем в фазу, когда граница между виртуальным и реальным становится условной. Возникает вопрос: мы управляем технологиями или они — нами? ", — указывает автор.
[see_also ids="654808"]
По его словам, особую роль в этом играют симулякры — высокореалистичные цифровые модели людей, которые воспроизводят не только внешность или голос, но и поведенческие особенности, реакции и даже психологию.
Автор статьи называет их своеобразными "цифровыми двойниками", которые взаимодействуют не только в виртуальном мире, но и общаются с миром реальным. Он добавляет, что симулякры позволяют экспериментировать с социальными, экономическими и правовыми процессами.
" Представим себе государство, которое, прежде чем утвердить важное решение, прогоняет его через цифровую модель общества и получает несколько сценариев развития событий. Такой подход сделал бы политику и право намного доказательнее, а управление — научно обоснованным", — объясняет Костенко.
Он обращает также внимание на то, что в симулякрах заложены и серьезные риски. Костенко указывает, что колоссальные объемы персональных данных необходимы для создания реалистичных моделей — от медицинских показателей до эмоциональных реакций в соцсетях. В результате открывается пространство для злоупотреблений, тотального контроля и манипуляций.
"Есть опасность, что симулякр станет не инструментом прогнозирования, а средством формирования нужного общественного мнения. Иначе говоря, вместо лаборатории будущего он может превратиться в фабрику иллюзий", — предупреждает эксперт.
[see_also ids="654178"]
Костенко отмечает, что во избежание такого сценария, необходимы институциональные "тормоза и руль". Речь идет об обязательном контроле всех видов искусственного интеллекта и создание прозрачной электронной юрисдикции.
Эксперт объясняет, что необходимо маркировать цифровую синтетику. Он добавляет, что своеобразный "ярлык" должен показывать, что перед вами искусственно созданный контент, а не реальность.
"Нужны также независимые аудиты работы моделей искусственного интеллекта (чтобы они не превратились в черный ящик, который руководит поведением людей) и действенные механизмы обжалования и компенсирования", — указывает Костенко.