Kan du lita pÄ att AI skyddar AI?

Kan du lita pÄ att AI skyddar AI?


Nu nÀr AI Àr pÄ vÀg in i huvudströmmen av IT-arkitektur, Àr kapplöpningen igÄng för att sÀkerstÀlla att den förblir sÀker nÀr den utsÀtts för datakÀllor som ligger utanför företagets kontroll. FrÄn datacentret till molnet till kanten kommer AI att behöva brottas med en mÀngd olika sÄrbarheter och en allt mer komplex uppsÀttning hot, som nÀstan alla kommer att drivas av AI sjÀlv.

Samtidigt kommer insatserna att bli allt större, med tanke pÄ att AI sannolikt kommer att utgöra ryggraden i vÄr sjukvÄrd, transport, finans och andra sektorer som Àr avgörande för att stödja vÄrt moderna sÀtt att leva. SÄ innan organisationer börjar driva in AI för djupt i dessa distribuerade arkitekturer, kan det hjÀlpa att pausa en stund för att sÀkerstÀlla att den kan skyddas pÄ ett adekvat sÀtt.

Förtroende och transparens

I en nyligen genomförd intervju med VentureBeat, noterade IBMs chief AI officer Seth Dobrin att det Àr avgörande att bygga förtroende och transparens i hela AI-datakedjan om företaget hoppas fÄ maximalt vÀrde frÄn sin investering. Till skillnad frÄn traditionella arkitekturer som bara kan stÀngas av eller rÄnas pÄ data nÀr de Àventyras av virus och skadlig kod, Àr faran för AI mycket större eftersom den kan lÀras att trÀna om sig sjÀlv frÄn den data den tar emot frÄn en slutpunkt.

“Slutpunkten Ă€r ett REST API som samlar in data,” sa Dobrin. “Vi mĂ„ste skydda AI frĂ„n förgiftning. Vi mĂ„ste se till att AI-Ă€ndpunkter Ă€r sĂ€kra och kontinuerligt övervakade, inte bara för prestanda utan för partiskhet.”

För att göra detta sa Dobrin att IBM arbetar med att etablera motstÄndskraftighet pÄ systemnivÄ för plattformar som Watson. Genom att implementera AI-modeller som utfrÄgar andra AI-modeller för att förklara deras beslutsprocesser, och sedan korrigera dessa modeller om de avviker frÄn normer, kommer företaget att kunna upprÀtthÄlla sÀkerhetsstÀllningar i takt med dagens snabba digitala ekonomi. Men detta krÀver en förÀndring i att tÀnka bort frÄn att jaga och motarbeta skÀndlig kod till att övervaka och hantera AI:s reaktion pÄ vad som verkar vara vanliga data.

Redan nu börjar rapporter cirkulera om de mĂ„nga geniala sĂ€tten pĂ„ vilka data manipuleras för att lura AI att Ă€ndra sin kod pĂ„ skadliga sĂ€tt. Jim Dempsey, förelĂ€sare vid UC Berkeley Law School och senior rĂ„dgivare till Stanford Cyber ​​Policy Center, sĂ€ger att det Ă€r möjligt att skapa ljud som lĂ„ter som tal för ML-algoritmer men inte för mĂ€nniskor. BildigenkĂ€nningssystem och djupa neurala nĂ€tverk kan ledas vilse med störningar som Ă€r omĂ€rkliga för det mĂ€nskliga ögat, ibland bara genom att flytta en enda pixel. Dessutom kan dessa attacker startas Ă€ven om gĂ€rningsmannen inte har tillgĂ„ng till sjĂ€lva modellen eller den data som anvĂ€nds för att trĂ€na den.

Förhindra och svara

För att motverka detta mÄste företaget fokusera pÄ tvÄ saker. För det första, sÀger Dell Technologies globala CTO John Roese, mÄste den Àgna mer resurser till att förebygga och reagera pÄ attacker. De flesta organisationer Àr skickliga pÄ att upptÀcka hot med hjÀlp av AI-drivna hÀndelseinformationshanteringstjÀnster eller en leverantör av hanterade sÀkerhetstjÀnster, men förebyggande och reaktion Àr fortfarande för lÄngsamma för att ge tillrÀcklig mildring av ett allvarligt intrÄng.

Detta leder till den andra förÀndringen som företaget mÄste implementera, sÀger Rapid7s vd Corey Thomas: stÀrk förebyggande och respons med mer AI. Detta Àr ett svÄrt piller att svÀlja för de flesta organisationer eftersom det i huvudsak ger AI utrymme att göra Àndringar i datamiljön. Men Thomas sÀger att det finns sÀtt att göra detta pÄ som gör det möjligt för AI att fungera pÄ de sÀkerhetsaspekter som den Àr skickligast pÄ att hantera samtidigt som nyckelfunktionerna reserveras för mÀnskliga operatörer.

I slutÀndan handlar det om tillit. AI Àr det nya barnet pÄ kontoret just nu, sÄ det borde inte ha nycklarna till valvet. Men med tiden, eftersom det bevisar sitt vÀrde i nybörjarmiljöer, borde det tjÀna förtroende precis som alla andra anstÀllda. Detta innebÀr att belöna den nÀr den presterar bra, lÀra den att göra bÀttre ifrÄn sig nÀr den misslyckas, och alltid se till att den har tillrÀckliga resurser och rÀtt data för att sÀkerstÀlla att den förstÄr rÀtt sak att göra och rÀtt sÀtt att göra det.

VentureBeats uppdrag ska vara ett digitalt stadstorg för tekniska beslutsfattare att fÄ kunskap om transformativ företagsteknik och handla. LÀs mer om medlemskap.