Семинар за вештачку интелигенцију, 19. март 2025.

• 07. Март, 2025
• Коментари (0)

Наредни састанак Семинара биће одржан онлајн у среду, 19. марта 2025. године, са почетком у 19 часова.

Предавач: Ана Ковачевић, Универзитет у Београду, Факултет безбедности

Наслов предавања: ТАМНА СТРАНА ГЕНЕРАТИВНЕ ВЕШТАЧКЕ ИНТЕЛИГЕНЦИЈЕ

Апстракт: Генеративна вештачка интелигенција (ГВИ) имплементирана је у бројним индустријама. Обезбеђивање безбедности и отпорности ГВИ система кључно је за њихову ефикасну употребу, посебно у осетљивим областима. Од почетних фаза ГВИ система били су препознати ризици, а са њиховим напретком расте потреба за дубљим разумевањем и идентификовањем могућих злоупотреба и рањивости. На основу истраживања реалних случајева злоупотреба ГВИ система уочено је да су експлоатисане лако доступне функционалности које захтевају минимално техничко знање, што представља значајан ризик за безбедност информационог екосистема. Поред злоупотребе основних функционалности самих ГВИ система, поједини напади искоришћавају рањивости модела, попут супарничких напада, jailbreaking-а, екстракције података и инверзије модела. У презентацији ће бити приказани реални примери случајеви злоупотребе и напади на ГВИ системе, као и нека од могућих решења.

Напомена:
Регистрациона форма за учешће и линк за активно праћење предавања за регистроване кориснике (након логовања):
https://miteam.mi.sanu.ac.rs/asset/CW5nJWDSEZDj7p32p
 
Нерегистровани корисници могу да прате предавања на овом линку (без могућности активног учешћа):
https://miteam.mi.sanu.ac.rs/call/hR9vL94nD6QE8qQZj/xET9GcPMyR08nqH8lnS3SE7N5Vf00H7Lp9EBhsv6Lti