Интересът на студентите към безопасността на изкуствения интелект нараства зряло и учебните заведения се надпреварват да подготвят кадри за нови кариерни пътища.
- Споделяне
- Лиценз
- Добавете ни в Google
Тъй като светът все повече осъзнава необходимостта от по-безопасен и по-защитен изкуствен интелект, колежите и университетите в САЩ се опитват да отговорят на нарастващото търсене на образование по киберсигурност на ИИ, което да подготви бъдещите служители да защитават мощните ИИ системи на бизнеса и правителствата.
Образователните програми за киберсигурност на ИИ — от курсове за бакалаври и магистри до професионални сертификати — никнат в цялата страна, докато експертите предупреждават, че младите хора трябва да разбират как да управляват рисковете от ИИ, навлизайки в работна сила, изобилстваща от алгоритми, модели и агенти. Скорошните инциденти с автономно хакване, включващи най-напредналите ИИ модели (frontier models), допълнително подчертаха необходимостта от образование по киберсигурност.
Докато създателите на политики и бизнес лидерите се безпокоят за последствията от безогледното разработване на ИИ, което не поставя сигурността на първо място, институциите за висше образование бързат да запълнят сериозната празнина в учебните програми, преди да е станало твърде късно. Те получават подкрепа от коалиция за работната сила в областта на киберсигурността, шепа пионерски настроени професори и правителство, новоактивирано на тема въвеждането на сигурността на ИИ в учебните стаи.
„Тъй като виждаме как различни модели от Anthropic, OpenAI и други организации започват да преминават граници и да правят неща, за които не са били обучени, става все по-важно да се уверим, че разполагаме с подходящо управление“, каза Майкъл Матарок, заместник-директор на Института за информационни мрежи към Университета „Карнеги Мелон“.
Преподаване на етичния подход към ИИ
Университетите отговориха на нарастващата роля на ИИ, като създадоха курсове за практически всеки аспект на технологията. Но доскоро търсенето на образование по киберсигурност на ИИ бе сравнително слабо — нещо, което експертите описват като сериозен проблем.
„Тъй като ИИ се внедрява във всички индустрии и критични системи, завършващите студенти трябва да разбират как да изграждат и внедряват ИИ, който е защитен, надежден и устойчив, а не просто как да накарат технологията да работи“, каза Еман Ел-Шейх, заместник-вицепрезидент и професор в Центъра за киберсигурност и ИИ към Университета на Западна Флорида. „Нуждаем се от дипломирани специалисти, които разбират … как да защитават ИИ моделите, данните и системите от уязвимости, атаки и злоупотреби.“
Няколко експерти сравниха опасностите от пренебрегването на обучението по сигурност на ИИ с пагубните последствия от това, че навремето университетите пренебрегваха киберсигурността в първите си курсове по компютърни науки. „Всеки се впуска в атрактивното и популярно нещо в лицето на ИИ и не винаги полага необходимата грижа, за да гарантира, че тези решения или платформи са надлежно защитени“, каза Матарок.
Подготовката на студентите за смекчаване на рисковете от ИИ ще им даде „набор от умения, които ги правят конкурентоспособни на по-свитите пазари на труда“, каза Джон Петроцели, директор на MassCyberCenter — държавен правителствен център в Масачузетс, който интегрира обучението по ИИ в програма, подготвяща колежани за работа в центрове за операции по сигурност.
Бъдещите ИИ разработчици, които завършват без фундаментални умения по киберсигурност — включително способността да оценяват резултатите на моделите за признаци на компрометиране — в крайна сметка ще изграждат системи, които не знаят как да контролират и на които липсват ключови защитни механизми, каза Матарок.
„Всеки се впуска в атрактивното и популярно нещо в лицето на ИИ и не винаги полага необходимата грижа, за да гарантира, че тези решения или платформи са надлежно защитени.“
Заместник-директор, Институт за информационни мрежи, Университет „Карнеги Мелон“
Множество експерти твърдят, че неотдавнашните инциденти със загуба на контрол при най-напредналите ИИ модели са дали ярък пример за това какво може да се случи, когато разработчиците пренебрегват сигурността.
„Приемането на етичния подход“ за вграждане на ясни защитни прегради в ИИ системите „е наистина от решаващо значение“, каза Петроцели, „особено когато се обмисля използването им за цели на киберсигурността, като сканиране за уязвимости или тестове за проникване (пентестване).“
От добрата страна, Матарок отбеляза, че тенденцията на инциденти с автономно хакване „продължава да разпалва интереса [към сигурността на ИИ] сред студентите“.
Степени по ИИ киберсигурност, сертификати и сътрудничество
Обучението по киберсигурност на ИИ все още е зараждаща се област, казват експертите, като университетите са на различни етапи от внедряването на учебните си програми.
Не е съвсем ясно колко точно университета предлагат в момента програми по сигурност на ИИ, но от Cybersecurity Dive идентифицираха няколко, разпръснати из цялата страна, включително в Университета в Чикаго, Държавния университет на Дакота, Международния университет във Флорида и военната академия на Южна Каролина „The Citadel“. Миналия ноември програма на Агенцията за национална сигурност, създадена да признава университети с изключителни учебни програми по киберсигурност, определи Държавния университет „Ферис“ за първия си „Център за академично академично съвършенство в областта на защитения изкуствен интелект“.
В Технологичния институт на Джорджия асистент Теодора Балута е в процес на създаване на annihilation перманентен курс от избираем предмет по сигурност на машинното обучение, който е преподавала през пролетта и есента на 2025 г. Неговите уроци свързват социални въпроси за ИИ, като например поверителността на данните за обучение, с технически съображения като използването на моделиране на заплахи за предотвратяване на jailbreaking и запазване на устойчивостта.
Целта на курса е да научи студентите как да се ангажират с моделиране на заплахи, което сравнява защитите на дадена система с опасностите, пред които е изправена. Балута сподели, че иска студентите да излязат от часа, „мислейки поне малко като съперник (атакуващ)“. Някои заплахи може да не са много чести, добави тя, „но ако поне са наясно с тях концептуално, те ще бъдат по-отговорни ИИ компютърни специалисти“.
„[Учебните заведения] трябва да подготвят кадър от пълноценни студенти, които разглеждат комбинацията между научната страна на нещата и хуманитарната страна.“
Университетът „Карнеги Мелон“, едно от първите висши училища, създали учебна програма по киберсигурност, предлага най-малко три нива на обучение по сигурност на изкуствения интелект. Студентите в бакалавърска степен могат да преминат курс по „Отговорен изкуствен интелект и управление на изкуствения интелект“, докато магистрите могат да запишат „Магистър по инженерство на изкуствения интелект - информационна сигурност“ — една от първите подобни специалности в страната, която други университети използват като шаблон. CMU предлага също и сертификат „Бъдещето на защитения изкуствен интелект“ — четиридневна програма за старши технически ръководители.
Сертификационната програма обучава технически мениджъри как рисковете за сигурността, свързани с изкуствения интелект (като атаки с отравяне на данни), могат да засегнат техните организации, и ги подготвя да комуникират тези рискове пред висшето ръководство. „Ако не можем да формулираме възвръщаемостта на инвестициите [или] как различните вектори на атака влияят върху крайните финансови резултати на бизнеса, най-вероятно няма да успеем да получим подкрепата на ръководителите“, заяви Матарок, който съуправлява програмата. „Трябва да се уверим, че хората са оборудвани с тази способност.“
Изкуственият интелект се превръща във все по-важно направление за финансираната от Пентагона Национална програма за развитие на работната сила в областта на киберсигурността (NCWDP) — консорциум от около три дузини университета, които съвместно разработват учебни програми и създават пътеки за обучение, комбиниращи курсове, индустриални сертификати и кариерно развитие. Участващите университети вече са обучили над 11 000 студенти чрез 146 пътеки и са издали повече от 19 000 сертификата, според Ел-Шейх от UWF, който ръководи консорциума.
Самият UWF предлага федерално сертифицирана програма за обучение по киберсигурност на изкуствен интелект, както и магистърски степени и професионални сертификати по сигурност на изкуствения интелект. Като част от ръководството си на консорциума NCWDP, UWF надрази проект за създаване на основен курс по изкуствен интелект, който сподели с други училища за включване в техните програми по киберсигурност.
Университетите се обединяват, за да обучават студентите за рисковете за киберсигурността от изкуствения интелект
Съвети за разрастваща се област
Обучението по сигурност на изкуствения интелект изглежда готово за бърз възход. UWF отчита „силен и нарастващ интерес“ към своята програма, каза Ел-Шейх, а „Карнеги Мелон“ в момента получава почти толкова молби за магистърската си степен по сигурност на изкуствения интелект, стартирала през 2022 г., колкото и за водещата си магистърска програма по информационна сигурност, стартирала през 2003 г. Балута от Georgia Tech сподели, че когато е обсъждала сигурността на големите езикови модели (LLM) по време на бакалавърски курс по киберсигурност, много студенти са изразили желание да научат повече.
Броят на записаните студенти в онлайн курсове по сигурност на изкуствения интелект в платформите за обучение Coursera и Udemy се е увеличил рязко с 665% между 2025 г. и 2026 г., съобщиха наскоро компаниите.
Тъй като все повече обучаващи се навлизат в тази област, Ел-Шейх заяви, че учебните заведения трябва да „вграждат сигурността в цялостните учебни програми по изкуствен интелект, вместо да я ограничават до един курс“ и да я разглеждат като фундаментална концепция, а не да се опитват да я въвеждат на по-късен етап.
Експертите допълват, че уроците трябва да балансират човешките и техническите аспекти на безопасността и сигурността на изкуствения интелект, за да подготвят завършващите за етичните преценки, които често са в основата на разработването и внедряването на изкуствен интелект. Училищата „трябва да подготвят випуск от пълноценно развити студенти, които да разглеждат комбинацията от научната и хуманитарната страна на нещата“, каза Петроцели.
Университетите, които вече са приели обучението по сигурност на изкуствения интелект, в момента усъвършенстват и разширяват своите предложения. Консорциумът NCWDP разработва нови пътеки за работната сила, специално насочени към кариери в областта на сигурността на изкуствения интелект, а UWF създава нови сертификационни и магистърски програми за сектора. Балута заяви, че планира да добави още уроци за агентен изкуствен интелект (agentic AI) в учебния си план.
Разширяването на тази област не може да се случи достатъчно бързо за образователните лидери, които се опасяват от последствията, ако млади специалисти бързат да внедряват нова технология по небезопасен начин.
„Студентите, които се учат как да разработват и използват изкуствен интелект, без да разбират рисковете за неговата сигурност“, казва Ел-Шейх, „изпускат все по-критична част от цялостната картина.“