С бързото развитие на изкуствения интелект (AI) и техниките за дълбоко обучение (DL) е изключително важно да се гарантира сигурността и стабилността на внедрените алгоритми. Наскоро уязвимостта на сигурността на DL алгоритмите към състезателни извадки беше широко призната. Изработените проби могат да доведат до различни лоши поведения на моделите DL, докато хората се възприемат като доброкачествени. Успешното внедряване на състезателни атаки в реални сценарии от физическия свят допълнително демонстрира тяхната практичност. Следователно, съперническите техники за атака и отбрана привличат все по-голямо внимание както от машинното обучение, така и от общностите за сигурност и през последните години се превръщат в гореща тема за изследване. В тази статия първо въвеждаме теоретичните основи, алгоритми и приложения на техниките на състезателна атака. След това описваме няколко изследователски усилия за отбранителните техники, които обхващат широката граница в тази област. Впоследствие се обсъждат няколко отворени проблема и предизвикателства, които се надяваме да провокират допълнителни изследователски усилия в тази критична област.

състезателни

Предишен статия в бр Следващия статия в бр

Ключови думи

Препоръчани статии

Позоваване на статии

Статия Метрики

  • За ScienceDirect
  • Отдалечен достъп
  • Карта за пазаруване
  • Рекламирайте
  • Контакт и поддръжка
  • Правила и условия
  • Политика за поверителност

Използваме бисквитки, за да помогнем да предоставим и подобрим нашата услуга и да приспособим съдържанието и рекламите. Продължавайки, вие се съгласявате с използване на бисквитки .