Faran med Metas nya superdator Àr företaget bakom

Faran med Metas nya superdator Àr företaget bakom


I slutet av januari meddelade Meta – Facebooks moderbolag – att det arbetar pĂ„ en superdator med artificiell intelligens som kommer att vara den snabbaste i vĂ€rlden efter att den blev fĂ€rdig i sommar. AI Research SuperCluster, eller RSC, kommer att hjĂ€lpa företaget att bygga nya AI-modeller som sĂ„ smĂ„ningom kan utgöra ryggraden i metaversen.

TillkĂ€nnagivandet förnyade debatten om etiken i att lĂ€gga till ytterligare en avancerad superdator till vĂ„r arsenal av snabbt framvĂ€xande storskalig teknologi. Reaktionerna pĂ„ RSC varierade frĂ„n “lĂ€skigt” till “dystopiskt”.

Men tekniken som utvecklas Ă€r inte problemet. IstĂ€llet Ă€r det mĂ€nniskorna bakom – som vinstbesatta vd:ar med tillgĂ„ng till mĂ€ngder av konsumentdata – som borde bekymra oss.

Företagsledare anammar alltmer AI-teknik för att göra sin verksamhet mer effektiv, öka produktiviteten, öka innovationen och tilltala fler kunder. I en undersökning av företagsledare förra Ă„ret sa mer Ă€n 85% att AI hĂ„ller pĂ„ att bli en “mainstream-teknik” pĂ„ deras företag.

AI Àr nu en genomgripande del av vÄr vardag. Den anvÀnds för att sammanstÀlla föreslaget innehÄll pÄ Netflix och Spotify. Det hjÀlper till att uppskatta trafikhastigheten pÄ navigationsapplikationer. NÀr du skriver en frÄga i Google letar AI efter relevant innehÄll pÄ internet.

Eftersom vi nu möter AI dagligen, har bristerna och etiska konsekvenserna av tekniken blivit alltmer synliga för allmÀnheten.

De ökÀnda Facebook-whistleblower-rapporterna i höstas utlöste kongressutfrÄgningar och ökad granskning av sociala medieplattformens algoritmer. Interna dokument avslöjade att Facebook medvetet anvÀnder AI för att driva anvÀndare mot radikalt innehÄll för att öka anvÀndarens engagemang. Företaget sÀger nu att det hoppas kunna anvÀnda AI för att lösa dessa problem.

Det var upprördhet i slutet av förra Ă„ret nĂ€r Amazons Alexa sa Ă„t en 10-Ă„rig flicka att koppla in en telefonladdare halvvĂ€gs till ett uttag och röra en slant pĂ„ de exponerade stiften. Röstassistenten ska ha hittat utmaningen “pĂ„ webben”.

Etiska övervĂ€ganden som dessa och mer – frĂ„n effekterna av AI:s rasfördomar till oro över integritet och övervakning – kommer att fĂ„ större betydelse nĂ€r AI fortsĂ€tter att utvecklas. Och nĂ€sta generation av artificiell intelligens vĂ€xer snabbt fram.

Elon Musks OpenAI och Googles DeepMind hĂ€vdar att de utvecklar artificiell allmĂ€n intelligens – autonom teknologi som kan lĂ€ra sig och förstĂ„ intellektuella mĂ€nskliga uppgifter. OpenAI:s system skrev en övertygande uppsats om varför Ă„tervinning Ă€r dĂ„ligt för vĂ€rlden. Metas superdator gĂ„r helt klart pĂ„ samma vĂ€g.

Och sĂ„ finns det artificiell allmĂ€n intelligens – AI som inte bara Ă€r begrĂ€nsad till ett fĂ„tal specifika förmĂ„gor utan kan lĂ€ra sig en mĂ€ngd olika uppgifter, ungefĂ€r som mĂ€nniskor kan. (Mitt eget företag, FutureAI, Ă€r i detta utrymme.) Det finns sĂ€kert risker med AGI-teknik. Eftersom AGI kan lĂ€ra sig oberoende av mĂ€nniskor, kommer det en dag att vida överstiga mĂ€nsklig intelligens. Men innan vi börjar oroa oss för domedagsscenarier med armĂ©er av Terminator-liknande robotar, mĂ„ste vi komma ihĂ„g att mĂ€nniskor kommer att vara de som programmerar och driver AGI.

AI och dess mer allmĂ€nna framtida kusin AGI Ă€r mĂ„linriktade system. Det betyder att AGIs beteende kommer att vara ett direkt resultat av de mĂ„l som mĂ€nniskor ger dem. Om vi ​​programmerar AGI:er med mĂ€nskliga mĂ„l om rikedom, pengar och makt, kommer de att ha potentiellt farliga, mĂ€nskliga brister.

Det Ă€r inte svĂ„rt att förestĂ€lla sig ett scenario dĂ€r detta hĂ€nder. Vi har redan sett konsekvenserna – valinblandning och andra anstrĂ€ngningar för att pĂ„verka opinionen, till exempel – av att artificiell intelligens hamnar i orĂ€tta hĂ€nder.

Med allt mer intelligent teknik kan illvilliga aktörer mer effektivt skapa vinster eller fÄ politisk kontroll. Om till exempel VD:ar började experimentera med AGI-system som kan tjÀna pengar pÄ konsumentdata Ànnu mer effektivt, kan vi ha anledning till oro.

Men om mÀnniskor trÀnar AGI-system för att strÀva efter mÄl för utforskning och upptÀckt, kommer de att vara mer godartade. I detta scenario kommer AGI:er att avslöja fenomen bortom mÀnsklig förstÄelse.

Naturligtvis Àr det omöjligt att garantera att framtiden för AGI kommer att vara helt positiv. Det finns alltid en möjlighet att hackare kan tillskansa sig AGI-system. Och eftersom AGI sÄ smÄningom kommer att kunna designa successiva generationer pÄ egen hand, kommer mÀnniskor att ha liten kontroll över det vid den tidpunkten, oavsett vilka mÄl mÀnniskor ursprungligen föreskrev för det.

Det Àr dÀrför det Àr vÄr skyldighet att styra de första generationerna av AGI med vÀlvilliga mÄl. NÀr de börjar skapa sina egna framtida generationer kommer AGI:er att följa samma godmodiga regler som vi gjorde nÀr de skapade dem.

Just nu Àr verkligheten att Meta inte kan stoppas frÄn att utveckla sin superdator AI, och företaget har lagt enorma resurser bakom sin strÀvan efter metaversen. Men det kan Àndras. Meta förlorade precis 200 miljarder dollar av sitt marknadsvÀrde pÄ grund av en minskning av Facebook-anvÀndare. SÄ eftersom etiska frÄgor dyker upp med metaverse AI och Àr allmÀnt publicerade, kan vi förvÀnta oss att Meta ocksÄ kommer att tyglas av sina anvÀndare.

Ännu viktigare, det finns utan tvekan Ă€nnu fler intelligenta AI-system som kommer i hĂ€larna pĂ„ Metas superdator. Även om vi inte kan stoppa den omĂ€ttliga efterfrĂ„gan pĂ„ avancerad teknik, kan vi vĂ€lja hur – och vem – ska programmera de som Ă€nnu inte har kommit.

VentureBeats uppdrag ska vara ett digitalt stadstorg för tekniska beslutsfattare att fÄ kunskap om transformativ företagsteknik och handla. LÀs mer om medlemskap.