\u201cErro sistem\u00e1tico em que se pode incorrer quando, ao realizar amostragens ou ensaios se selecionam ou favorecem umas respostas frente a outras\u201d. Assim define a RAE o conceito de \u2018sesgo\u2019. Mas como influem estes \u201csesgos\u201d na Intelig\u00eancia Artificial? Quando falamos de sesgo em IA, fazemo-lo da mesma forma que em qualquer outra atividade ou \u00e1rea de conhecimento. Falamos de preconceitos, de concep\u00e7\u00f5es da realidade em base das quais tomamos decis\u00f5es de forma inconsciente.<\/p>\n
Se pararmos para pensar, os sesgos que afetam a Intelig\u00eancia Artificial est\u00e3o nos dados e nos pr\u00f3prios algoritmos. Mas quando falamos de dados n\u00e3o s\u00f3 temos em conta o sexo, a idade ou a ra\u00e7a, que poderiam ser os primeiros que nos v\u00eam \u00e0 mente, mas tamb\u00e9m qualquer dado referido a uma pessoa. Mas vamos um passo mais al\u00e9m, referindo-nos tamb\u00e9m \u00e0 import\u00e2ncia que se confere a cada um desses dados, assim como \u00e0 sua utilidade quando os estruturamos, ou ao pr\u00f3prio algoritmo que escolhemos para operar com eles. Conceder uma hipoteca, contratar numa empresa, etc… O algoritmo criado para cada uma destas tarefas toma decis\u00f5es, em que muitas vezes n\u00e3o se consideraram esses sesgos.<\/p>\n
Por isso \u00e9 necess\u00e1rio que destaquemos o grande papel de todas aquelas pessoas que trabalham com estes algoritmos, pessoas que t\u00eam o poder de trabalhar com essa \u201cmat\u00e9ria prima\u201d que s\u00e3o os dados. Assim como quando constru\u00edmos um edif\u00edcio temos em conta que materiais utilizamos (para seguir as pautas corretas de sustentabilidade ambiental e seguran\u00e7a e sa\u00fade para os que ir\u00e3o habitar nele), neste caso os nossos materiais s\u00e3o os dados e, por isso, \u00e9 da responsabilidade destas pessoas ter um s\u00f3lido conhecimento da mat\u00e9ria-prima com que trabalham: de onde procedem, que tipo de dados s\u00e3o, a sua qualidade\u2026 E devem conhecer os par\u00e2metros em que se baseia um algoritmo para tomar uma decis\u00e3o. Segundo a RGPD, qualquer decis\u00e3o baseada num processo automatizado deve ser explicada, se o utilizador o solicitar, e o pr\u00f3prio artigo 22 do RGPD reconhece o direito de oposi\u00e7\u00e3o a decis\u00f5es automatizadas, e o direito a n\u00e3o ser submetido a este tipo de decis\u00f5es.<\/p>\n
“\u00c9 necess\u00e1rio que destaquemos o papel fundamental de todas as pessoas que trabalham com estes algoritmos, pessoas que t\u00eam o poder de trabalhar com essa \u2018mat\u00e9ria prima\u2019\u00a0 que s\u00e3o os dados”<\/p><\/blockquote>\n
Para compreender a que nos referimos, eis um exemplo: se realizamos uma pesquisa r\u00e1pida em Google sobre investigadores famosos da Hist\u00f3ria, aparecer\u00e3o muito mais nomes de homens do que de mulheres. Este \u00e9 outro caso em que tamb\u00e9m podemos culpar o algoritmo. Com efeito, vimos recentemente como uma crian\u00e7a propunha a Google um algoritmo que tornasse poss\u00edvel que em todas as pesquisas deste tipo se inclu\u00edsse pelo menos uma mulher cient\u00edfica, treinando assim tamb\u00e9m o algoritmo. Mas retornando ao tema que nos ocupa, o dos sesgos, existe uma forma de solucionar este problema: tornar conscientes deste tema as pessoas que trabalham direta ou indiretamente com os dados. Que sejam conhecedoras, sobretudo, de que n\u00e3o existe uma verdade \u00fanica, mas sim que \u00e9 necess\u00e1rio fazer um balan\u00e7o e estabelecer todos os dados numa equa\u00e7\u00e3o para que dela resulte uma decis\u00e3o equ\u00e2nime. Isto \u00e9, dentro do sesgo impl\u00edcito que existe em qualquer tomada de decis\u00e3o por parte de uma pessoa, por exemplo, ao selecionar que par\u00e2metro tem ou n\u00e3o relev\u00e2ncia, ou que algoritmo se vai utilizar que tenha o menor impacto negativo na pessoa afetada por essa decis\u00e3o.<\/p>\n
Mas que acontece com essas pessoas? At\u00e9 agora, no referente \u00e0 IT, os engenheiros inform\u00e1ticos eram os donos do \u201cconhecimento absoluto\u201d, sem ter em conta outras \u00e1reas de conhecimento, vinculadas diretamente ao usu\u00e1rio como sujeito, como pessoa. Com a Intelig\u00eancia Artificial adotamos um rumo diferente: constatamos que as humanidades s\u00e3o relevantes. Pensemos, por exemplo, no papel da lingu\u00edstica nos sistemas conversacionais, ou na automatiza\u00e7\u00e3o da informa\u00e7\u00e3o, ou na \u00e9tica para a regula\u00e7\u00e3o e o bem-estar social, entre muitos outros campos. A que se deve esta mudan\u00e7a repentina? A mudan\u00e7a deve-se a que podemos responder a uma quest\u00e3o a que as m\u00e1quinas n\u00e3o s\u00e3o capazes de responder: a criatividade, a empatia, a intui\u00e7\u00e3o, os valores morais…<\/p>\n
“Os desafios que coloca a IA s\u00e3o t\u00e3o diferentes como apaixonantes, porque o impacto desta tecnologia reflete-se tanto na esfera pessoal, como econ\u00f3mico-social”<\/p><\/blockquote>\n
No referente \u00e0 \u00e9tica ou \u00e0 responsabilidade da produ\u00e7\u00e3o de solu\u00e7\u00f5es de IA, pensemos por um momento no carro sem condutor, por exemplo. De quem ser\u00e1 a culpa no caso de se produzir um acidente? De quem desenvolveu o hardware ou o software? A quem deve atropelar o ve\u00edculo no caso de haver v\u00e1rios pe\u00f5es a atravessar a via, ou se o ve\u00edculo sofrer uma avaria? Aqui enfrentamo nos claramente \u00e0 complexidade da \u00e9tica. Por isso, qualquer pessoa que trabalhe com algoritmos, ao tomar decis\u00f5es, deve ter em conta o enorme impacto social da sua tecnologia.<\/p>\n
Mas se existe uma \u00e1rea em que os sesgos nos dados proliferam a cada segundo ou mil\u00e9sima de segundo, essa \u00e9 a das redes sociais. Vivemos num momento da hist\u00f3ria da humanidade em que mais conte\u00fados se produzem, atrav\u00e9s do celular, cada vez que publicamos conte\u00fados nas nossas redes, realizamos coment\u00e1rios sobre artigos, etc. A pessoa que publica nestes canais f\u00e1-lo mostrando, de forma consciente ou inconsciente, os seus preconceitos e opini\u00f5es, a sua forma de ver o mundo, em suma, os seus \u201csesgos\u201d. As empresas que operam com este tipo de dados para gerar produtos ou tomar decis\u00f5es devem ter especial cuidado ao tratar os dados n\u00e3o estruturados procedentes das redes sociais ou foros abertos.<\/p>\n
“Com a Intelig\u00eancia Artificial tomamos um rumo diferente: demo-nos conta de que as humanidades s\u00e3o relevantes”<\/p><\/blockquote>\n
No que se refere ao impacto da IA no trabalho, outra das afirma\u00e7\u00f5es que ouvimos constantemente as pessoas que nos dedicamos a IA, e que lemos na imprensa ou nos meios de comunica\u00e7\u00e3o, \u00e9 que a IA ir\u00e1 destruir muitos postos de trabalho, ao automatizar tarefas e processos repetitivos, at\u00e9 agora realizados por uma pessoa. \u00c9 certo que v\u00e3o desaparecer postos de trabalho suscet\u00edveis de serem automatizados, como sempre aconteceu ao longo da hist\u00f3ria (por exemplo, no caso dos repartidores de gelo e leite, ou o guarda-noturno) com o avan\u00e7o da tecnologia. A IA \u00e9, sem d\u00favida, um dos principais motores da atual revolu\u00e7\u00e3o industrial, cujo grande detonador foi e \u00e9 a transforma\u00e7\u00e3o digital. Esta situa\u00e7\u00e3o conduz-nos a uma autorreflex\u00e3o, em que devemos perguntar-nos: que valor diferencial em compara\u00e7\u00e3o com uma m\u00e1quina posso proporcionar ao meu trabalho ou \u00e0 minha empresa? Por exemplo, num trabalho que consista em ler, compreender e extrair informa\u00e7\u00e3o de documentos legais, algo que j\u00e1 pode ser realizado por uma m\u00e1quina, como fazemos em Taiger. A utiliza\u00e7\u00e3o de uma m\u00e1quina para automatizar processos ir\u00e1 permitir que essa pessoa se centre mais em proporcionar mais valor a esse processo, em especial, no que se refere ao seu cliente, pois ter\u00e1 mais tempo para ouvir, para desenvolver estrat\u00e9gias, para empatizar, em suma, para dedicar mais tempo ao servi\u00e7o personalizado e \u00e0s tarefas de grande impacto na esfera do pessoal e do profissional, como a estrat\u00e9gia, a criatividade e a resolu\u00e7\u00e3o de problemas, entre outros.<\/p>\n
Gostaria de convidar qualquer pessoa, relacionada ou n\u00e3o com a tecnologia ou o mundo digital, a conhecer o que \u00e9 a Intelig\u00eancia Artificial, a saber como operam os algoritmos (de sele\u00e7\u00e3o, de interpreta\u00e7\u00e3o, de tomada de decis\u00f5es) que se utilizam para automatizar processos ou tomar decis\u00f5es e, sobretudo, saber administrar e conhecer o que cont\u00eam os dados, a principal mat\u00e9ria prima da atual revolu\u00e7\u00e3o industrial. Assim como, enquanto sociedade, exigimos o \u201cn\u00e3o ao pl\u00e1stico\u201d, devemos talvez come\u00e7ar a preparar o nosso alegado de \u201caten\u00e7\u00e3o ao dado\u201d.<\/p>\n
Pela parte das pessoas que trabalhamos neste apaixonante campo da IA, devemos ser conscientes da natureza dos dados com que trabalhamos ou vamos trabalhar (fonte, qualidade, sesgos, etc.) e o que vamos fazer com eles para observar o seu impacto socioecon\u00f4mico direto e indireto. Pela minha parte, e tamb\u00e9m de outras pessoas que s\u00e3o referentes na \u00e1rea da IA, estamos j\u00e1 a falar com os respons\u00e1veis governamentais e regionais, para conhecer as medidas que se est\u00e3o a tomar para hackear esses sesgos, e em que marco de regula\u00e7\u00e3o se est\u00e1 a trabalhar.<\/p>\n
Uma vez conhecido o alcance atual da IA, poderemos estar tranquilos. Por agora, as m\u00e1quinas n\u00e3o t\u00eam essa capacidade associativa de conjugar ou intuir coisas, capacidades que possu\u00edmos como resultado da experi\u00eancia. Esta situa\u00e7\u00e3o demorar\u00e1 a chegar, porque requer um sistema cognitivo muito complexo, de compreens\u00e3o primeiro e desenvolvimento depois, como \u00e9 o caso das piadas ou da ironia: se muitas vezes uma pessoa tem dificuldade em compreend\u00ea-las, tentem imaginar uma m\u00e1quina.<\/p>\n
“Devemos ser conscientes da natureza dos dados com que trabalhamos ou vamos trabalhar […] e do que faremos com eles, para observar o seu impacto socioecon\u00f4mico direto e indireto”<\/p><\/blockquote>\n
Resumindo, os desafios colocados pela IA s\u00e3o t\u00e3o diversos como apaixonantes, uma vez que o impacto desta tecnologia abrange tanto a esfera do pessoal, como do econ\u00f3mico e social. Por isso todos, seja qual for o nosso perfil, temos um lugar dentro desta tecnologia. Nunca antes uma tecnologia tinha valorizado tanto as humanidades, porque, se as empresas est\u00e3o orientadas para o cliente e para a personaliza\u00e7\u00e3o dos servi\u00e7os, nada melhor do que trabalhar em inova\u00e7\u00e3o emocional. Como afirmou Maya Angelou, \u201ca gente esquecer\u00e1 o que voc\u00ea disse, esquecer\u00e1 o que fez, mas nunca esquecer\u00e1 como a fez sentir\u201d.<\/p>\n","protected":false},"excerpt":{"rendered":"
\u201cErro sistem\u00e1tico em que se pode incorrer quando, ao realizar amostragens ou ensaios se selecionam ou favorecem umas respostas frente a outras\u201d. Assim define a RAE o conceito de \u2018sesgo\u2019. Mas como influem estes \u201csesgos\u201d na Intelig\u00eancia Artificial? Quando falamos de sesgo em IA, fazemo-lo da mesma forma que em qualquer outra atividade ou \u00e1rea […]<\/p>\n","protected":false},"author":7,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"_et_pb_use_builder":"","_et_pb_old_content":"","_et_gb_content_width":"","footnotes":""},"categories":[87],"class_list":["post-475651","post","type-post","status-publish","format-standard","hentry","category-ideas"],"acf":[],"yoast_head":"\n
Sesgos e intelig\u00eancia artificial: aten\u00e7\u00e3o ao dado - LLYC<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/llyc.global\/pt-br\/ideas\/uno\/sesgos-e-inteligencia-artificial-atencao-ao-dado\/\" \/>\n<meta property=\"og:locale\" content=\"pt_BR\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Sesgos e intelig\u00eancia artificial: aten\u00e7\u00e3o ao dado\" \/>\n<meta property=\"og:description\" content=\"\u201cErro sistem\u00e1tico em que se pode incorrer quando, ao realizar amostragens ou ensaios se selecionam ou favorecem umas respostas frente a outras\u201d. Assim define a RAE o conceito de \u2018sesgo\u2019. Mas como influem estes \u201csesgos\u201d na Intelig\u00eancia Artificial? Quando falamos de sesgo em IA, fazemo-lo da mesma forma que em qualquer outra atividade ou \u00e1rea […]\" \/>\n<meta property=\"og:url\" content=\"https:\/\/llyc.global\/pt-br\/ideas\/uno\/sesgos-e-inteligencia-artificial-atencao-ao-dado\/\" \/>\n<meta property=\"og:site_name\" content=\"LLYC\" \/>\n<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/LLYC.Global\/\" \/>\n<meta property=\"article:published_time\" content=\"2019-11-20T10:31:30+00:00\" \/>\n<meta name=\"author\" content=\"andrea\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@llorenteycuenca\" \/>\n<meta name=\"twitter:site\" content=\"@llorenteycuenca\" \/>\n<meta name=\"twitter:label1\" content=\"Written by\" \/>\n\t<meta name=\"twitter:data1\" content=\"andrea\" \/>\n\t<meta name=\"twitter:label2\" content=\"Est. reading time\" \/>\n\t<meta name=\"twitter:data2\" content=\"8 minutos\" \/>\n<!-- \/ Yoast SEO Premium plugin. -->","yoast_head_json":{"title":"Sesgos e intelig\u00eancia artificial: aten\u00e7\u00e3o ao dado - LLYC","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/llyc.global\/pt-br\/ideas\/uno\/sesgos-e-inteligencia-artificial-atencao-ao-dado\/","og_locale":"pt_BR","og_type":"article","og_title":"Sesgos e intelig\u00eancia artificial: aten\u00e7\u00e3o ao dado","og_description":"\u201cErro sistem\u00e1tico em que se pode incorrer quando, ao realizar amostragens ou ensaios se selecionam ou favorecem umas respostas frente a outras\u201d. Assim define a RAE o conceito de \u2018sesgo\u2019. Mas como influem estes \u201csesgos\u201d na Intelig\u00eancia Artificial? Quando falamos de sesgo em IA, fazemo-lo da mesma forma que em qualquer outra atividade ou \u00e1rea […]","og_url":"https:\/\/llyc.global\/pt-br\/ideas\/uno\/sesgos-e-inteligencia-artificial-atencao-ao-dado\/","og_site_name":"LLYC","article_publisher":"https:\/\/www.facebook.com\/LLYC.Global\/","article_published_time":"2019-11-20T10:31:30+00:00","author":"andrea","twitter_card":"summary_large_image","twitter_creator":"@llorenteycuenca","twitter_site":"@llorenteycuenca","twitter_misc":{"Written by":"andrea","Est. reading time":"8 minutos"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/llyc.global\/pt-br\/ideas\/uno\/sesgos-e-inteligencia-artificial-atencao-ao-dado\/#article","isPartOf":{"@id":"https:\/\/llyc.global\/pt-br\/ideas\/uno\/sesgos-e-inteligencia-artificial-atencao-ao-dado\/"},"author":{"name":"andrea","@id":"https:\/\/llyc.global\/pt-br\/#\/schema\/person\/9f32ed7279b71b2ef5295806812ff9b4"},"headline":"Sesgos e intelig\u00eancia artificial: aten\u00e7\u00e3o ao dado","datePublished":"2019-11-20T10:31:30+00:00","mainEntityOfPage":{"@id":"https:\/\/llyc.global\/pt-br\/ideas\/uno\/sesgos-e-inteligencia-artificial-atencao-ao-dado\/"},"wordCount":1695,"commentCount":0,"articleSection":["Ideas"],"inLanguage":"pt-BR","potentialAction":[{"@type":"CommentAction","name":"Comment","target":["https:\/\/llyc.global\/pt-br\/ideas\/uno\/sesgos-e-inteligencia-artificial-atencao-ao-dado\/#respond"]}]},{"@type":"WebPage","@id":"https:\/\/llyc.global\/pt-br\/ideas\/uno\/sesgos-e-inteligencia-artificial-atencao-ao-dado\/","url":"https:\/\/llyc.global\/pt-br\/ideas\/uno\/sesgos-e-inteligencia-artificial-atencao-ao-dado\/","name":"Sesgos e intelig\u00eancia artificial: aten\u00e7\u00e3o ao dado - LLYC","isPartOf":{"@id":"https:\/\/llyc.global\/pt-br\/#website"},"datePublished":"2019-11-20T10:31:30+00:00","author":{"@id":"https:\/\/llyc.global\/pt-br\/#\/schema\/person\/9f32ed7279b71b2ef5295806812ff9b4"},"breadcrumb":{"@id":"https:\/\/llyc.global\/pt-br\/ideas\/uno\/sesgos-e-inteligencia-artificial-atencao-ao-dado\/#breadcrumb"},"inLanguage":"pt-BR","potentialAction":[{"@type":"ReadAction","target":["https:\/\/llyc.global\/pt-br\/ideas\/uno\/sesgos-e-inteligencia-artificial-atencao-ao-dado\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/llyc.global\/pt-br\/ideas\/uno\/sesgos-e-inteligencia-artificial-atencao-ao-dado\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/llyc.global\/pt-br\/"},{"@type":"ListItem","position":2,"name":"Sesgos e intelig\u00eancia artificial: aten\u00e7\u00e3o ao dado"}]},{"@type":"WebSite","@id":"https:\/\/llyc.global\/pt-br\/#website","url":"https:\/\/llyc.global\/pt-br\/","name":"LLYC","description":"Consultoria de comunicaci\u00f3n marketing y asuntos p\u00fablicos","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/llyc.global\/pt-br\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"pt-BR"},{"@type":"Person","@id":"https:\/\/llyc.global\/pt-br\/#\/schema\/person\/9f32ed7279b71b2ef5295806812ff9b4","name":"andrea","image":{"@type":"ImageObject","inLanguage":"pt-BR","@id":"https:\/\/secure.gravatar.com\/avatar\/ad24e19084a368dba52090fbba4f136747eb294cec890e3452f7924d43eb6c97?s=96&d=mm&r=g","url":"https:\/\/secure.gravatar.com\/avatar\/ad24e19084a368dba52090fbba4f136747eb294cec890e3452f7924d43eb6c97?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/ad24e19084a368dba52090fbba4f136747eb294cec890e3452f7924d43eb6c97?s=96&d=mm&r=g","caption":"andrea"}}]}},"_links":{"self":[{"href":"https:\/\/llyc.global\/pt-br\/wp-json\/wp\/v2\/posts\/475651","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/llyc.global\/pt-br\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/llyc.global\/pt-br\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/llyc.global\/pt-br\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/llyc.global\/pt-br\/wp-json\/wp\/v2\/comments?post=475651"}],"version-history":[{"count":0,"href":"https:\/\/llyc.global\/pt-br\/wp-json\/wp\/v2\/posts\/475651\/revisions"}],"wp:attachment":[{"href":"https:\/\/llyc.global\/pt-br\/wp-json\/wp\/v2\/media?parent=475651"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/llyc.global\/pt-br\/wp-json\/wp\/v2\/categories?post=475651"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}