O DESA­FIO DOS PRÓ­XI­MOS DEZ ANOS

POR IVAN VEN­TU­RA

Foi no iní­cio des­te ano que a publi­ci­tá­ria e con­sul­to­ra de trans­for­ma­ção digi­tal, Kate O´Neill, rece­beu um con­vi­te da revis­ta Wired para escre­ver um arti­go sobre a febre na inter­net daque­le momen­to: o desa­fio dos dez anos que sur­giu no Face­bo­ok. A pro­pos­ta da brin­ca­dei­ra era publi­car duas fotos, sen­do uma atu­al e outra foto­gra­fa­da jus­ta­men­te na déca­da pas­sa­da. A hipó­te­se levan­ta­da por Kate era de que o desa­fio não era à toa. Ele teria sur­gi­do para trei­nar a inte­li­gên­cia arti­fi­ci­al de reco­nhe­ci­men­to faci­al do Face­bo­ok e, assim, apri­mo­rar o tra­ta­men­to de dados pes­so­ais. O arti­go “Facebook’s 10 Year Chal­len­ge is Just a Harm­less Meme – Right?” (O Desa­fio de 10 Anos do Face­bo­ok é Ape­nas Ino­fen­si­vo – Cer­to?) vira­li­zou no mun­do todo. Ago­ra, a ex-exe­cu­ti­va da Net­flix e con­sul­to­ra de empre­sas como Coca-Cola, McDonald’s e Goo­gle está às vol­tas com outra polê­mi­ca na mídia ame­ri­ca­na: a regu­la­ção dos algo­rit­mos – ideia que ela defen­de. Con­fi­ra:

CON­SU­MI­DOR MODER­NO – O QUE PEN­SA SOBRE A REGU­LA­ÇÃO DE ALGO­RIT­MOS?

Kate O’Neill — É neces­sá­rio exis­ti­rem as regu­la­ções de cole­ta e uso de dados pes­so­ais e da oti­mi­za­ção algo­rít­mi­ca de expe­ri­ên­ci­as e inte­ra­ções huma­nas. Algo­rit­mos deter­mi­nam uma gran­de quan­ti­da­de de expe­ri­ên­ci­as que con­su­mi­mos na cul­tu­ra con­tem­po­râ­nea – de entre­te­ni­men­to que des­fru­ta­mos a com­pras que faze­mos. Na mai­o­ria dos casos, as expe­ri­ên­ci­as que são cri­a­das para nós podem ser mol­da­das sig­ni­fi­ca­ti­va­men­te pelo conhe­ci­men­to pre­e­xis­ten­te de nos­so com­por­ta­men­to, nos­sas pre­fe­rên­ci­as, nos­sos rela­ci­o­na­men­tos, e assim por dian­te. As regu­la­ções devem refle­tir os melho­res esfor­ços do gover­no para pro­te­ger os cida­dãos, mas tam­bém incen­ti­var o comér­cio e a ino­va­ção sau­dá­veis e éti­cos

CMUM DOS PILA­RES DA DIS­CUS­SÃO SOBRE A REGU­LA­ÇÃO DE ALGO­RIT­MOS DIZ RES­PEI­TO ÀS QUES­TÕES RELA­CI­O­NA­DAS AO PRE­CON­CEI­TO RACI­AL. ELES SÃO REAL­MEN­TE PRE­CON­CEI­TU­O­SOS?

KOOs vie­ses nos algo­rit­mos têm sido ampla­men­te estu­da­dos e ocor­rem den­tro de uma ampla gama de negó­ci­os no mun­do todo. Espe­ci­a­lis­tas como Safiya Noble, Shosha­na Zuboff, Cathy O´Neil, Joy Buo­lamwi­ni, Vir­gi­nia Eubanks, Sara Wach­ter-Boett­cher, Zey­nep Tufek­ci, entre outros, têm estu­da­do o impac­to sobre o uso de dados sobre os dife­ren­tes algo­rit­mos de impac­to que podem ter – e não somen­te den­tro de sis­te­mas como a apli­ca­ção da lei e a jus­ti­ça cri­mi­nal, mas em apli­ca­ções mais amplas do dia a dia, como segu­ro, saú­de, mora­dia e além. As pri­mei­ras aná­li­ses indi­cam alguns resul­ta­dos pre­o­cu­pan­tes quan­to ao pre­con­cei­to, sim. É pre­ci­so apri­mo­rar o uso de algo­rit­mos.

CMQUAIS SÃO OS PON­TOS NEGA­TI­VOS E POSI­TI­VOS DE UMA REGU­LA­ÇÃO DE ALGO­RIT­MOS?

KOUm dos pon­tos nega­ti­vos de uma regu­la­ção de dados e algo­rit­mos seria a pró­pria regra ser mal con­ce­bi­da, mal infor­ma­da ou até impos­sí­vel de ser apli­ca­da. Regu­la­men­tos pou­co desen­vol­vi­dos podem impe­dir ou retar­dar a ado­ção de regu­la­men­ta­ções bem pro­je­ta­das pos­te­ri­or­men­te. Nes­se sen­ti­do, uma regu­la­men­ta­ção cor­re­ta de cole­ta de dados e o uso e a oti­mi­za­ção algo­rít­mi­ca de expe­ri­ên­ci­as e inte­ra­ções devem for­ne­cer cla­re­za e limi­tes em tor­no do uso éti­co e pro­du­ti­vo dos dados pes­so­ais. Leis apro­pri­a­das pro­te­gem melhor os con­su­mi­do­res – o que, por sua vez, pode­ria esti­mu­lar uma mai­or con­fi­an­ça do con­su­mi­dor. Em geral, um ecos­sis­te­ma de dados bem regu­la­do deve ser sau­dá­vel e sus­ten­tá­vel, além de incen­ti­var a ino­va­ção sem com­pro­me­ter as pes­so­as.

CMVOCÊ PODE­RIA NOS CON­TAR SOBRE ESSA DIS­CUS­SÃO EM SEU PAÍS?

KONo iní­cio des­te ano, a depu­ta­da Ale­xan­dria Oca­sio-Cor­tez (Demo­cra­ta de NY) fez comen­tá­ri­os públi­cos sobre como os algo­rit­mos podem ser ten­den­ci­o­sos. Algu­mas pes­so­as ridi­cu­la­ri­za­ram a par­la­men­tar, mas ela rece­beu o apoio de aca­dê­mi­cos e espe­ci­a­lis­tas no assun­to. Cos­tu­mo dizer que “somos nós que codi­fi­ca­mos as máqui­nas com base em nós mes­mos”. De cer­ta for­ma, isso resu­me a decla­ra­ção da depu­ta­da: “Codi­fi­ca­mos nos­sas deci­sões, nos­sos valo­res e, sim, os nos­sos vie­ses nas máqui­nas à medi­da que cri­a­mos as regras dos softwa­res que aju­dam as pes­so­as em suas vidas. Ao mes­mo tem­po, isso tam­bém sig­ni­fi­ca que temos a opor­tu­ni­da­de de codi­fi­car o melhor de nós mes­mos e desen­vol­ver polí­ti­cas que incen­ti­vem aque­les que cri­am expe­ri­ên­ci­as algo­rít­mi­cas e base­a­das em dados para tor­ná-los sig­ni­fi­ca­ti­vos, úteis e mutu­a­men­te bené­fi­cos.”