В исследовании, опубликованном в журнале Crime Science и финансируемом Dawes Center for Future Crime at UCL (и доступном в качестве политического брифинга), определены 20 способов использования ИИ для содействия преступности в течение следующих 15 лет. Они были ранжированы в порядке их беспокойства – в зависимости от вреда, который они могут нанести, потенциальной выгоды или выгоды преступным путем, того, насколько легко их будет выполнить и насколько сложно будет их остановить.
Авторы заявили, что фальшивый контент будет сложно обнаружить и остановить, и что он может преследовать самые разные цели – от дискредитации общественного деятеля до извлечения средств путем выдачи себя за сына или дочь пары во время видеозвонка.
По их словам, такой контент может привести к широко распространенному недоверию к аудио- и визуальным свидетельствам, что само по себе нанесет обществу вред.
Помимо фальшивого контента, пять других преступлений с использованием ИИ были признаны вызывающими серьезную озабоченность. Они использовали беспилотные автомобили в качестве оружия, помогали создавать более специализированные фишинговые сообщения (целевой фишинг), нарушали работу систем, управляемых ИИ, собирали онлайн-информацию для целей крупномасштабного шантажа и создавали фальшивые новости, созданные ИИ.
Старший автор профессор Льюис Гриффин (UCL Computer Science) сказал: «По мере расширения возможностей технологий на основе искусственного интеллекта возрастает и их потенциал для преступной эксплуатации. Чтобы надлежащим образом подготовиться к возможным угрозам искусственного интеллекта, нам необходимо определить, какими могут быть эти угрозы и как они могут повлиять на нашу жизнь."
Исследователи собрали 20 преступлений с использованием ИИ на основе научных статей, новостей и отчетов о текущих событиях, а также художественной литературы и популярной культуры. Затем они собрали 31 человека, обладающего опытом в области искусственного интеллекта, для двухдневного обсуждения, чтобы оценить серьезность потенциальных преступлений.
Участники были привлечены из академических кругов, частного сектора, полиции, правительства и органов государственной безопасности.
Преступления, вызывающие среднюю озабоченность, включали продажу товаров и услуг, обманным путем помеченных как «ИИ», таких как проверка безопасности и таргетированная реклама. Этого будет легко достичь с потенциально большой прибылью.
К преступлениям, не вызывающим особого беспокойства, относятся боты-грабители – маленькие роботы, используемые для проникновения на территорию через точки доступа, такие как почтовые ящики или откидные дверцы для кошек, – которые, как было сочтено, легко победить, например, через почтовые ящики, и преследование с помощью ИИ, которое , хотя и наносит серьезный ущерб людям, не может работать в больших масштабах.
Первый автор доктор Мэтью Колдуэлл (UCL Computer Science) сказал: «Люди теперь проводят большую часть своей жизни в сети, и их онлайн-активность может создавать и разрушать репутацию. Такая онлайн-среда, в которой данные являются собственностью и властью информации, идеально подходит для использования в преступной деятельности на основе искусственного интеллекта.
"В отличие от многих традиционных преступлений, преступления в цифровой сфере можно легко распространять, повторять и даже продавать, что позволяет продавать преступные методы и предоставлять преступления в качестве услуги.
Это означает, что преступники могут передать на аутсорсинг более сложные аспекты своей преступной деятельности с использованием ИИ."
Профессор Шейн Джонсон, директор Центра будущих преступлений Дауэса при UCL, который финансировал исследование, сказал: «Мы живем в постоянно меняющемся мире, который создает новые возможности – хорошие и плохие.
Таким образом, крайне важно, чтобы мы предвидели будущие угрозы преступности, чтобы лица, определяющие политику, и другие заинтересованные стороны, обладающие компетенцией действовать, могли сделать это до того, как произойдут новые «урожаи преступности». Этот отчет является первым из серии, в которой будут определены будущие угрозы преступности, связанные с новыми и появляющимися технологиями, и то, что мы можем с ними сделать."