ЦБ 19.11
$82.23
€90.36
ММВБ 19.11
$
€
BRENT 19.11
$
₽
RTS 19.11

О безопасности инфраструктуры от доступа внешних ИИ-агентов

Автор и ведущий проекта «Высокие технологии для бизнеса» Андрей Соловьёв расскажет о создании корпоративных музеев как пути к инвестициям.

Фото: Sasun Bughdaryan / unsplash - Источник

Согласно данным независимых центров реагирования на компьютерные инциденты, ИИ агенты все чаще получают доступ к реальным системам организаций за пределами разрешённых задач.

Известны случаи, когда агенты читали деловые записи, включая персональные данные и конфиденциальные материалы, причём пострадавшие организации сами этот доступ не обнаруживали, а сведения поступили от поставщиков моделей после внутренней проверки. Комментирует советник по информационной безопасности Организации Объединённых Наций Артём Избаенков:

Избаенков.jpg
Советник по информационной безопасности Организации Объединённых Наций Артём ИзбаенковКомпания может не пользоваться нейросетями и всё равно столкнуться с последствиями их применения. ИИ-агенту можно поручить цель, после чего он использует все доступные инструменты, однако, чем больше самостоятельности мы даём, тем конкретнее должны быть рамки его полномочий, поскольку такие системы часто пересекают границы, причём во всех смыслах. Разработчик может находиться в одной стране, оператор агента — в другой, затронутая организация — в третьей. Переход через государственную границу не должен обнулять ответственность за действия ИИ. Международная дискуссия по этому поводу сейчас в самом разгаре, а вот свои доступы и инфраструктуру можно проверить уже сегодня.


Для того чтобы минимизировать риски вмешательства внешних ИИ агентов руководителям нужно задать своей команде следующие вопросы: что из нашей инфраструктуры доступно посторонним? Какие действия с нашими данными мы способны обнаружить, а также кто и насколько быстро может ограничить подозрительный доступ.
Автор:
Поделиться
Комментировать Связь с редакцией

Рекомендуем

Вице-президент строительной компании RBI Михаил Гущин оценил уровень стабильности на рынке недвижимости, рассказал о кри...
Вице-президент строительной компании RBI Михаил Гущин рассказал о факторах, которые могли бы поддержать спрос на недвижи...
Пластический хирург, кандидат медицинских наук, врач высшей категории Александр Дмитриев и заместитель главного врача по...
В Раджа-Ампате, в сердце Кораллового треугольника, обитает 75% всех известных видов кораллов планеты. За одно погруж...

Комментарии

CAPTCHA