Este documento apresenta o Termo de Abertura do Projeto (TAP) para o desenvolvimento de soluções tecnológicas com o uso de inteligência artificial no Portal da Transparência de Rondônia. O projeto visa melhorar a experiência, acessibilidade, usabilidade, responsividade e participação dos cidadãos ao utilizarem os serviços do Portal.
A rápida evolução da tecnologia tem desempenhado um papel fundamental na transformação dos serviços públicos, buscando torná-los mais eficientes, acessíveis e transparentes. Dentro desse contexto, a implementação de soluções baseadas em inteligência artificial (IA) tem se destacado como uma ferramenta poderosa para impulsionar a modernização e aprimoramento dos serviços governamentais.
No âmbito específico do Portal da Transparência de Rondônia, a adoção de algoritmos de IA representa uma oportunidade única para aprimorar a experiência dos cidadãos, proporcionando acesso facilitado a informações cruciais sobre a gestão pública. O Portal da Transparência desempenha um papel central na promoção da accountability e no fortalecimento da democracia, ao fornecer dados sobre as receitas, despesas, contratos e demais informações pertinentes à gestão dos recursos públicos.
O objetivo principal deste projeto é impulsionar a modernização e aprimoramento do Portal da Transparência de Rondônia por meio da implementação de soluções tecnológicas baseadas em inteligência artificial (IA). Especificamente, o projeto visa desenvolver e implementar um assistente virtual alimentado por algoritmos de IA, com o propósito de proporcionar uma melhor experiência, acessibilidade, usabilidade, responsividade e participação aos cidadãos que utilizam os serviços do Portal.
Em primeiro lugar, o projeto busca implementar um assistente virtual capaz de entender e responder às perguntas dos usuários de forma rápida, precisa e confiável. Isso permitirá aos cidadãos obterem as informações desejadas de maneira eficiente, sem a necessidade de navegar por extensos documentos ou realizar buscas complexas no Portal da Transparência.
Além disso, o assistente virtual servirá como uma ferramenta de apoio para os gestores e servidores públicos, agilizando processos internos de gestão e fornecendo insights valiosos com base nas interações dos usuários. A utilização de algoritmos de IA possibilitará a análise automatizada de dados e a identificação de padrões e tendências, contribuindo para uma tomada de decisão mais informada e eficaz por parte dos órgãos responsáveis.
Outro aspecto importante do objetivo deste projeto é garantir que as informações fornecidas pelo assistente virtual sejam verdadeiras, fidedignas e compatíveis com o contexto da administração pública. Para isso, serão estabelecidos procedimentos rigorosos de controle de qualidade e validação das respostas oferecidas, assegurando a integridade e credibilidade das informações disponibilizadas aos usuários.
Além disso, o projeto tem como objetivo realizar testes e refinamentos do modelo do assistente virtual, com base em um mínimo de 80 interações de usuários reais. Esses testes serão essenciais para atualizar a compreensão das perguntas e evitar avaliações enviesadas, garantindo a eficácia e eficiência do assistente virtual no atendimento às demandas dos usuários.
Por fim, o projeto visa desenvolver estratégias de divulgação da fase de teste e do lançamento oficial da ferramenta para a sociedade. A realização de eventos de lançamento e ações de comunicação eficazes serão fundamentais para garantir a adesão dos usuários e promover a ampla utilização do assistente virtual no Portal da Transparência de Rondônia.
Em resumo, o objetivo deste projeto é utilizar a tecnologia de inteligência artificial para transformar o Portal da Transparência de Rondônia em uma plataforma mais acessível, eficiente e transparente, proporcionando uma melhor experiência aos cidadãos e contribuindo para o fortalecimento da democracia e da accountability na gestão pública.
A implementação de soluções baseadas em inteligência artificial (IA) no Portal da Transparência de Rondônia é fundamentada em uma série de razões que refletem a necessidade e o potencial de modernização e aprimoramento dos serviços públicos. A justificativa para este projeto é multifacetada, abrangendo tanto a perspectiva da eficiência operacional quanto os imperativos éticos e democráticos associados à transparência na gestão pública.
Em primeiro lugar, algoritmos de IA oferecem oportunidades sem precedentes para otimizar processos internos de gestão e promover uma maior eficiência na administração pública. A automação de tarefas rotineiras e a análise automatizada de dados permitem que os gestores e servidores públicos foquem em atividades de maior valor agregado, impulsionando a produtividade e a eficácia das operações governamentais.
Além disso, a implementação de um assistente virtual no Portal da Transparência de Rondônia proporcionará uma melhor experiência aos cidadãos que utilizam os serviços do Portal. A capacidade de obter informações de forma rápida, precisa e acessível contribuirá para aumentar a confiança e a satisfação dos usuários, fortalecendo assim o vínculo entre governo e sociedade.
Do ponto de vista da accountability e da transparência na gestão pública, a utilização de IA no Portal da Transparência representa um avanço significativo. Ao disponibilizar dados e informações de forma clara, acessível e compreensível, o Portal contribui para promover a prestação de contas e o controle social, permitindo que os cidadãos exerçam seu direito de fiscalização sobre os atos do poder público.
É importante ressaltar que a escolha do RASA como plataforma para desenvolvimento do assistente virtual foi motivada pela sua capacidade de oferecer respostas controladas e alinhadas com o contexto da administração pública. Ao contrário de modelos de linguagem generativa, como o ChatGPT, o RASA permite um controle mais preciso sobre as respostas oferecidas, garantindo a veracidade e fidedignidade das informações fornecidas aos usuários.
Por fim, a implementação de soluções baseadas em IA no Portal da Transparência de Rondônia está alinhada com as diretrizes e tendências globais de modernização e digitalização dos serviços públicos. Em um contexto marcado pela crescente digitalização da sociedade e pela demanda por maior transparência e participação cidadã, investir em tecnologias inovadoras é essencial para garantir a relevância e eficácia dos serviços governamentais.
Em suma, a justificativa para este projeto é ancorada na necessidade de promover uma gestão pública mais eficiente, transparente e participativa, utilizando a tecnologia de inteligência artificial como ferramenta para alcançar esses objetivos. Ao investir na modernização do Portal da Transparência de Rondônia, o governo demonstra seu compromisso com a promoção da transparência, da accountability e do bem-estar da sociedade como um todo.
O sucesso do projeto de implementação de soluções tecnológicas com inteligência artificial no Portal da Transparência de Rondônia depende da observância de uma série de premissas fundamentais que fornecem a base necessária para o desenvolvimento e execução bem-sucedidos do projeto. Essas premissas abrangem aspectos relacionados à disponibilidade de recursos, colaboração entre as partes interessadas e apoio da alta administração, entre outros fatores críticos para o sucesso do empreendimento.
| PREMISSA | DESCRIÇÃO |
| Disponibilidade de Recursos Humanos Qualificados |
Equipe multidisciplinar composta por profissionais qualificados nas áreas de tecnologia da informação, inteligência artificial, gestão de projetos, comunicação e outras disciplinas relevantes. Esses profissionais serão responsáveis pelo desenvolvimento, teste, implementação e monitoramento das soluções tecnológicas no Portal da Transparência. |
| Colaboração Efetiva entre as Partes Interessadas |
Colaboração estreita e efetiva entre todas as partes interessadas, incluindo a Coordenadoria de Análise e Gestão de Dados da SETIC, CGE, SECOM e demais órgãos e entidades envolvidos. A comunicação transparente e a troca de informações são essenciais para garantir a alinhamento de objetivos, a resolução de eventuais conflitos e o avanço coordenado das atividades. |
| Acesso aos Dados e Informações Necessárias |
Acesso irrestrito aos dados e informações necessárias para o desenvolvimento e implementação da solução tecnológica. Isso inclui dados sobre receitas, despesas, contratos, licitações, convênios e demais informações pertinentes à gestão dos recursos públicos, bem como informações sobre o funcionamento e uso do Portal por parte dos usuários. |
| Aceitação e Suporte da Alta Administração |
A alta administração deve estar alinhada com os objetivos e benefícios esperados do projeto, bem como disposta a fornecer os recursos e suporte necessários para sua execução. |
| Adoção de Boas Práticas e Padrões de Governança |
Adoção de boas práticas e padrões reconhecidos de governança de projetos, como os descritos no PMBOK (Project Management Body of Knowledge), para garantir uma gestão eficaz e eficiente do projeto. |
| Compromisso com a Ética e Transparência |
Condução baseada em princípios éticos e transparentes, garantindo a integridade, confidencialidade e segurança dos dados e informações manipulados. A privacidade dos usuários e a conformidade com a legislação aplicável, como a Lei Geral de Proteção de Dados (LGPD), devem ser rigorosamente respeitadas em todas as fases do projeto. |
| Flexibilidade para Adaptação a Mudanças |
Abordagem ágil e flexível, capaz de se adaptar a mudanças nas necessidades e requisitos do usuário, bem como a eventuais imprevistos e desafios que possam surgir ao longo do processo. |
Em resumo, as premissas estabelecidas fornecem a base necessária para o sucesso do projeto, garantindo que todos os aspectos fundamentais estejam devidamente considerados e endereçados ao longo de sua execução.
Embora o projeto apresente uma série de oportunidades e benefícios, é importante reconhecer e considerar as restrições que podem impactar seu desenvolvimento e execução.
| RESTRIÇÕES | DESCRIÇÃO |
| Limitações Técnicas |
O desenvolvimento pode ser afetado por limitações técnicas, como a disponibilidade de infraestrutura adequada, a capacidade de processamento e armazenamento de dados, e a interoperabilidade com sistemas existentes. É importante identificar e mitigar essas limitações desde o início do projeto, garantindo que as soluções propostas sejam viáveis e eficazes na prática. |
| Restrições de Prazo |
Mudanças nos cronogramas, atrasos na entrega de recursos ou imprevistos inesperados podem afetar a conclusão do projeto dentro do prazo planejado. |
| Limitações de Escopo |
Mudanças nos requisitos ou expectativas dos stakeholders podem resultar em expansão ou redução do escopo do projeto, o que pode impactar sua execução e entrega. |
| Restrições Legais e Regulatórias |
Questões relacionadas à proteção de dados pessoais, conformidade com normas de segurança cibernética, e requisitos de acessibilidade e usabilidade. É crucial garantir que o projeto esteja em conformidade com todas as leis, regulamentos e políticas aplicáveis, minimizando o risco de não conformidade e sanções legais. |
O planejamento e a mitigação dessas restrições são essenciais para assegurar que o projeto seja concluído dentro dos prazos e orçamentos estabelecidos, entregando resultados que atendam às expectativas e necessidades dos stakeholders envolvidos.
O escopo do projeto de implementação de soluções tecnológicas com inteligência artificial no Portal da Transparência de Rondônia abrange uma série de atividades e entregas que visam alcançar os objetivos estabelecidos. A definição clara e precisa do escopo é essencial para orientar o planejamento, execução e controle do projeto, garantindo que todas as atividades sejam realizadas de forma eficiente e eficaz.
O escopo do projeto inclui as seguintes atividades e entregas:
| ENTREGA | ATIVIDADE |
| Definição do Domínio do Assistente Virtual |
Identificação e delimitação do escopo de atuação do assistente virtual no Portal da Transparência. Serão definidas as áreas de conhecimento em que o assistente virtual será capaz de fornecer informações e responder às perguntas dos usuários. |
| Identificação de Objetivos, Indicadores e Nome do Assistente |
Estabelecimento dos objetivos específicos do assistente virtual, juntamente com os indicadores de desempenho que serão utilizados para avaliar o sucesso do projeto. Além disso, será definido o nome do assistente virtual, que representará a identidade e personalidade da ferramenta. |
| Coleta de Dados de Treinamento |
Coleta de dados de treinamento para alimentar o assistente virtual com informações relevantes e atualizadas. Serão identificadas as fontes de dados disponíveis e realizada a coleta e preparação dos dados para treinamento do modelo de IA. |
| Realização de um Período de Teste |
Será realizado um período de teste do assistente virtual com um mínimo de 80 interações de usuários reais. O objetivo é avaliar o desempenho e eficácia do assistente virtual em fornecer respostas precisas e úteis aos usuários, identificando eventuais áreas de melhoria e refinamento do modelo. |
| Avaliação e Refinamento do Modelo |
Com base nos resultados do período de teste, serão realizadas atividades de avaliação e refinamento do modelo do assistente virtual. Serão identificadas e implementadas as melhorias necessárias para garantir a qualidade e eficácia das respostas fornecidas pelo assistente virtual. |
| Desenvolvimento de Estratégias de Divulgação |
Desenvolvimento de estratégias de divulgação da fase de teste e do lançamento oficial do assistente virtual para a sociedade. Serão elaborados planos de comunicação e marketing para promover a adesão dos usuários e garantir uma ampla utilização do assistente virtual. |
| Implementação Inicial do Assistente Virtual |
Implementação inicial do assistente virtual no Portal da Transparência de Rondônia. O assistente virtual estará disponível para utilização pelos usuários, fornecendo informações e respondendo às perguntas de forma automatizada. |
| Estabelecimento de um Processo de Acompanhamento e Atualização |
Será estabelecido um processo de acompanhamento do produto e atualização cíclica do modelo do assistente virtual mensalmente. Serão identificadas as novas perguntas e respostas a serem inseridas no modelo, com base nos dados coletados sobre a utilização da ferramenta. |
É importante ressaltar que o escopo do projeto pode ser ajustado ao longo do tempo para refletir mudanças nas necessidades e requisitos do usuário, bem como para responder a eventuais imprevistos e desafios que possam surgir durante a execução do projeto.
- Definição do domínio do assistente virtual
- Coleta de dados de treinamento
- Realização do período de teste
- Implementação inicial do assistente virtual
- Lançamento oficial da ferramenta para a sociedade
O projeto será liderado pela Coordenadoria de Análise e Gestão de Dados da SETIC, em colaboração com a CGE, SECOM e demais partes interessadas. As responsabilidades das partes envolvidas serão definidas em um documento de atribuição de responsabilidades.
- PMBOK® Guide – Sixth Edition.
- Documentação técnica do RASA Open Source.
- Diretrizes e regulamentos governamentais relacionados à transparência e uso de inteligência artificial.
- Avaliação de Riscos do uso de IA;
- Plano de Comunicação do Projeto;
- Plano de Teste da Assistente Virtual.
| AVALIAÇÃO DE RISCOS DIRETOS PELA NATUREZA DA FERRAMENTA |
| DADOS GERAIS DA FERRAMENTA |
| I - Órgão governamental responsável |
| SETIC |
| II - Nome da ferramenta utilizada |
| RASA |
| III - Categoria da aplicação (Classificação de imagens (exceto reconhecimento facial), reconhecimento facial, sistema de recomendação, chatbot, estimativas de risco (incluindo detecção de fraudes), análise de sentimentos, outros.) |
| Chatbot |
| IV - Modelo estatístico envolvido (Regressão logística, regressão linear ou variações, métodos baseados em árvore de decisão (incluindo florestas aleatórias e XGBoost), redes neurais, processamento de linguagem natural, AutoML, outros) |
| Redes Neurais - DIET (Dual Intentity-Entity Transformer) |
| V - Inputs ou dados de entrada (Por exemplo, probabilidade de determinado caso apresentar fraude; ou concessão ou não de crédito) |
| Mensagens dos usuários |
| VI - Outputs ou resultados (Por exemplo, probabilidade de determinado caso apresentar fraude; ou concessão ou não de crédito) |
| Resposta com maior probabilidade de estar associada à mensagem do usuário |
| VII - Grau de apoio oferecido pela ferramenta (Faz diagnósticos e toma decisões; faz diagnósticos e sugere ações, faz diagnósticos, mas não sugere ações) |
| Faz diagnóstico e toma decisões |
| VIII - Propósito ou objetivo da ferramenta |
| Aumentar o dinamismo das respostas ao cidadão e automatizar interações recorrentes |
| AVALIAÇÃO A SER REALIZADA |
| I - No fluxo de utilização da ferramenta, há supervisão humana em todas as decisões sugeridas ou tomadas pelo algoritmo? |
| Sim |
| II - Em caso de erro do algoritmo corrigido por humano, essa informação é usada para aprimoramento do algoritmo? |
| Sim |
| III - A ferramenta, por sua natureza, pode impactar direitos fundamentais, seja por erro ou por design do seu algoritmo, seja direta ou indiretamente? Se sim, quais? |
| Não |
| IV - Quais grupos ou populações serão impactadas por esse algoritmo? Esses segmentos foram considerados no processo de treinamento da ferramenta? |
| Considerando o público aberto como população alvo, a ferramenta é treinada para capturar padrões da população. |
| V - Existem órgãos ou pessoas dentro da entidade que utilizam o algoritmo que podem prestar informações sobre seu uso às autoridades competentes? |
| Sim |
| VI - O impacto negativo é criado ou acentuado a partir do algoritmo? |
| Não |
| VII - Esse algoritmo é imprescindível para atingir o objetivo apontado? Se ele tem o potencial de afetar o exercício de direitos fundamentais ou de se colocar como intermediário para acesso a eles, existem formas alternativas para exercício de tal direito? Se sim, quais? |
| O algoritmo é imprescindível para atingir o objetivo, porém não tem potencial de afetar o exercício de direitos fundamentais. |
| VIII - Existem evidências de que este algoritmo funcione no ambiente em que ele está sendo utilizado? As evidências são baseadas em experimentos científicos relevantes? |
| Existem evidências de bom funcionamento com o uso prático em ambiente real. Segundo os desenvolvedores da ferramenta, são mais de 25 milhões de downloads (https://rasa.com/docs/rasa/). |
| IX - Existe regulamentação específica sobre o uso deste algoritmo na área em que ele está sendo aplicado? Quais são? Se não, existe apoio de uma equipe jurídica especializada para garantir que haja respaldo jurídico? |
| O algoritmo tem como objetivo utilizar Inteligência Artificial para categorizar a pergunta do usuário direcionando-a para uma resposta pré-determinada pelos especialistas da CGE (Controladoria Geral do Estado). Desse modo, entende-se que o respaldo jurídico está implícito, uma vez que a resposta da pergunta foi elaborada pela própria CGE. |
| X - Existe uma equipe técnica que acompanha e monitora a implementação deste algoritmo? Esta equipe contém funcionários do órgão capazes de analisar criticamente os caminhos tomados? |
| Sim, existem painéis de acompanhamento tanto para CGE como para a SETIC, apresentando indicadores relacionados aos interesses de cada um dos entes sobre o funcionamento da ferramenta. |
| XI - A equipe responsável pelo desenvolvimento do algoritmo inclui especialistas da área na qual o algoritmo será aplicado? |
| Sim |
| XII - Um comitê de ética acompanha/acompanhou o desenvolvimento do algoritmo e os ritos envolvidos na coleta e uso de dados? |
| Não |
| XIII - Dados pessoais podem fazer parte da resposta (output)? |
| Não |
| AVALIAÇÃO DE RISCOS A DIREITOS |
| I - Foram considerados possíveis vieses no desempenho da ferramenta em seu desenvolvimento, aquisição ou implementação? |
| É intrínseco à solução a análise de perguntas previamente realizadas pela própria população, assim como perguntas elaboradas pelos especialistas da área. Desse modo, pode-se inferir que o viés resultante se relaciona à natureza das perguntas previamente realizadas. |
| II - Se sim, os vieses foram corrigidos ou mitigados pelo código? De que maneira? |
| Para atenuar os impactos dos vieses, utilizou-se uma base de dados contendo mais de 10.000 perguntas reais (todo o universo disponível) que foram sintetizadas e agrupadas por Inteligência Artificial, e entregues aos especialistas para servirem de balizadoras das perguntas iniciais que compõem a base de dados de funcionamento da aplicação. |
| III - Foram feitos testes antes e durante a implementação para saber se taxas de erros são iguais ou menores em grupos minoritários? |
| Não existe processo de identificação dos usuários, uma vez que a ferramenta tem como objetivo atingir o público geral. |
|
IV - A amostra de treinamento é rica em quantidade de diversidade para um bom resultado da ferramenta com os diferentes grupos aos quais a ferramenta é aplicada? |
| Como descrito anteriormente, utilizou-se a totalidade dos dados disponíveis na elaboração do modelo. Não existe estratificação na amostra de dados disponibilizada. |
| V - Se é uma ferramenta que não foi desenvolvida internamente, ela foi desenhada especificamente para o público brasileiro ou ao público ao qual é aplicada? Se não, foi testada como sua acurácia difere para o público alvo? |
| A ferramenta foi desenhada para o público brasileiro com enfoque na população de Rondônia. |
| VI - Existe uma equipe que monitora a performance do algoritmo em relação a estes grupos periodicamente? Se sim, rotinas de treinamento foram planejadas durante a implementação do algoritmo? |
| Sim, foram planejadas rotinas de treinamento para monitorar e aprimorar a performance do algoritmo de forma recorrente. |
| VII - No caso de ferramentas de interação com o público externo, como chatbots, existe um responsável para receber as reclamações de possíveis discriminações que a ferramenta esteja cometendo? |
| Todos os colaboradores assim como os desenvolvedores possuem acesso a um painel direcionado e atualizado em tempo real contendo os indicadores relevantes para suas respectivas avaliações e melhorias. Somando-se a isso o fato de todas as respostas serem previamente elaboradas por especialistas e a incapacidade do algoritmo de gerar respostas de forma autônoma, torna-se impossível a ocorrência de discriminação gerada pelo algoritmo. |
| AVALIAÇÃO DE RISCOS AO DIREITO À PRIVACIDADE |
| I - Existe a necessidade da utilização de dados pessoais para treinar a ferramenta? |
| Não |
| II - Se sim, as pessoas são informadas que seus dados pessoais estão sendo usados para alimentar a ferramenta? |
| Não existe |
| III - Existe a necessidade da utilização de dados sensíveis ou sigilosos para treinar a ferramenta? Se sim, qual a base legal e quais camadas adicionais de segurança são aplicadas para proteger esses dados? |
| Não existe |
| IV - As pessoas podem optar por retirar seus dados do treinamento da ferramenta ou exercer seus outros direitos sobre seus dados pessoais, como acesso, portabilidade etc.? |
| Não se aplica. O processo de utilização de Inteligência Artificial ocorre no momento em que o usuário efetua a pergunta, única e exclusivamente para classificar essa pergunta e relacioná-la à resposta adequada. Caso haja dados pessoais na pergunta, esses serão acessíveis apenas aos especialistas que elaboram as respostas. A única base utilizada para o treinamento da aplicação serão as perguntas e respostas sintetizadas pelos especialistas, cabendo a eles a não inclusão de informações pessoais nos dados de treino. |
| V - Os dados pessoais são coletados/produzidos pelo próprio órgão ou são compartilhados por outras fontes? As outras fontes têm base legal legítima para compartilhar os dados ao órgão em questão? |
| Os dados pessoais são produzidos pelos próprios usuários e filtrados pelos especialistas do próprio órgão. |
|
VI - Os dados pessoais são compartilhados com terceiros? Há base legal legítima para esse compartilhamento? |
| Os dados pessoais NÃO são compartilhados com terceiros. |
| VII - Dados pessoais/sigilosos são utilizados pelo algoritmo, foram empregadas técnicas de anonimização/despersonalização durante o pré-processamento destes dados? |
| Dados pessoais/sigilosos NÃO são utilizados pelo algoritmo. |
| VIII - Dados pessoais/sigilosos são utilizados para treinamento do algoritmo, foram empregadas técnicas de preservação de privacidade durante o treinamento dos modelos? |
| Dados pessoais/sigilosos NÃO são utilizados para treinamento do algoritmo |
| IX - A ferramenta é desenvolvida por um terceiro, existe um documento que regula o compartilhamento e uso dos dados por este ente? |
| A ferramenta NÃO é desenvolvida por um terceiro. |
| X - O cidadão pode escolher não ter seus dados analisados por um algoritmo? |
| O cidadão pode optar por não informar nenhum dado pessoal uma vez que dados pessoais são irrelevantes para o funcionamento do algoritmo. |
| XI - As pessoas deram consentimento para o uso de seus dados para treinamento deste algoritmo? |
| Não existe a identificação dos indivíduos que efetuam as perguntas. Quando há inserção de dados pessoais por parte do usuário, os mesmos são retirados pelos especialistas no momento da sintetização das perguntas e respostas utilizadas como base de treino do algoritmo. |
| XII - Os dados utilizados para treino e os dados capturados por este algoritmo estão armazenados em um servidor na nuvem (no Brasil ou fora) ou em um servidor local? Existem protocolos de segurança desenvolvidos para acesso a estes dados? |
| Os dados utilizados para treino e os dados capturados por este algoritmo estão armazenados em um servidor local e existem protocolos de segurança para acessá-los. |
| AVALIAÇÃO DE POTENCIAL ABUSO AUTORITÁRIO E RESTRIÇÃO DO ESPAÇO CÍVICO |
| I - A ferramenta produz ou coleta informações que podem ser utilizadas para monitorar indivíduos ou grupos políticos, étnicos ou religiosos, bem como ativistas? Se sim, quais ferramentas são utilizadas para evitar esse uso excessivo dos dados? |
| Não existe identificação dos usuários. Desse modo, é impossível associar ao cidadão quaisquer das situações acima descritas. |
| II - O algoritmo usa dados sensíveis ou potencialmente discriminatórios? Se sim, quais camadas adicionais de segurança são aplicadas para proteger esses dados? |
| O algoritmo NÃO utiliza dados sensíveis ou potencialmente discriminatórios. |
| ESTRUTURA DE AVALIAÇÃO DE TRANSPARÊNCIA |
| I - Antes de a ferramenta ser colocada em uso, é possível ter acesso a relatórios de impacto prévios onde constam testes feitos para avaliar vieses e o que foi feito para contornar o comportamento discriminatório da ferramenta? |
| O algoritmo NÃO utiliza dados sensíveis ou potencialmente discriminatórios. Todos os colaboradores assim como os desenvolvedores possuem acesso a um painel direcionado e atualizado em tempo real contendo os indicadores relevantes para suas respectivas avaliações e melhorias. Somando-se a isso o fato de todas as respostas serem previamente elaboradas por especialistas e a incapacidade do algoritmo de gerar respostas de forma autônoma, torna-se impossível a ocorrência de discriminação gerada pelo algoritmo. |
| II - Antes de a ferramenta ser colocada em uso, é possível ter acesso a relatórios que apontem informações como o fato de o modelo estar sendo desenvolvido, qual seu propósito e quais as populações potencialmente afetadas, e quais os direitos fundamentais potencialmente afetados pelo sistema e quais mecanismos estão sendo usados para mitigar tais questões? |
| O algoritmo NÃO utiliza dados sensíveis ou potencialmente discriminatórios. Todos os colaboradores assim como os desenvolvedores possuem acesso a um painel direcionado e atualizado em tempo real contendo os indicadores relevantes para suas respectivas avaliações e melhorias. Somando-se a isso o fato de todas as respostas serem previamente elaboradas por especialistas e a incapacidade do algoritmo de gerar respostas de forma autônoma, torna-se impossível a ocorrência de discriminação gerada pelo algoritmo. |
| III - É possível ter acesso à informação sobre as variáveis de entrada ou inputs do sistema? |
| Sim |
| IV - Há métricas para aferir a acurácia da ferramenta? Caso não haja, sugira algumas baseada no propósito da ferramenta. |
| Todos os colaboradores assim como os desenvolvedores possuem acesso a um painel direcionado e atualizado em tempo real contendo os indicadores relevantes para suas respectivas avaliações e melhorias. |
| V - É possível ter acesso ao algoritmo desenvolvido/utilizado pela ferramenta? |
| Sim |
| VI - Depois de colocada em uso a ferramenta, há relatórios periódicos de impacto com atualização de testes de vieses e de acurácia, correções e melhorias da ferramenta, bem como prestação de contas quanto ao impacto nas pessoas e populações afetadas pela ferramenta? |
| Todos os colaboradores assim como os desenvolvedores possuem acesso a um painel direcionado e atualizado em tempo real contendo os indicadores relevantes para suas respectivas avaliações e melhorias. Não existe identificação dos usuários. |
| VII - Há um responsável na implementação da ferramenta capaz de explicar a uma pessoa afetada por ela sobre os motivos do resultado da ferramenta? |
| Existem responsáveis capazes de explicar os resultados da ferramenta. Todos os colaboradores assim como os desenvolvedores possuem acesso a um painel direcionado e atualizado em tempo real contendo os indicadores relevantes para suas respectivas avaliações e melhorias. Não existe identificação dos usuários. |
| VIII - Há um responsável por acompanhar a forma com a qual o algoritmo afeta uma decisão tomada por um humano? Existe um estudo, relatórios ou pesquisas que analisam o fenômeno da interação entre humano e máquina? |
| Considerando o descrito no Art. 5º CF/88 e as características descritas do algoritmo, entende-se que a existência de uma pessoa com tais atribuições, desrespeitaria o direito fundamental de liberdade do indivíduo. |
ANEXO II – PLANO DE COMUNICAÇÃO CLARA I.A
Este documento delineia as estratégias de comunicação para otimizar o desempenho do projeto da Assistente Virtual, visando alcançar seus objetivos de forma eficaz, promovendo confiança e credibilidade junto ao público-alvo por meio do planejamento cuidadoso das atividades.
Disseminar informações importantes e destacar o fato de ser a primeira Inteligência Artificial implementada para atender demandas diretas da população.
Todos os servidores e cidadãos.
|
Ação |
Direcionamento |
Responsável |
Data de início |
Data de término |
Status |
|
Matéria de Divulgação
|
Direcionamento: “Planejamento de um projeto que auxiliará a transparência no Estado.” |
Valéria (Assessoria de Comunicação – SETIC) |
|||
|
Post mídia social
|
Direcionamento: “Relacionado a matéria de planejamento do projeto” |
Assessoria de Comunicação - SETIC |
|||
|
Carrossel ou Fotogif
|
Direcionamento: “Tendência da implementação de IA no serviço público” |
Assessoria de Comunicação - SETIC |
|||
|
Avatar
|
Duas opções de avatar da IA Clara para interação nas mídias sociais das instituições |
Idan (Assessoria de Comunicação - SETIC) |
|||
|
Post votação
|
Publicação de caixinha de votação Instagram CGE e SETIC. |
Assessoria de Comunicação - CGE |
|||
|
Vídeo de Pré-Lançamento
|
Direcionamento: “Promovendo a ferramenta” |
SECOM/ Assessorias de comunicação |
|||
|
Matéria pré-lançamento
|
Direcionamento: “Tecnologia, IA e administração pública”. |
Valéria (Assessoria de Comunicação – SETIC) |
|||
|
Release e Briefing
|
Release e convite para imprensa |
Assessorias de comunicação /Cerimonial /SECOM |
|||
|
Lançamento
|
Lançamento Setic e Cge |
Assessorias de comunicação /cerimonial /Secom |
|||
|
Matéria Pós Lançamento |
Direcionamento: Qual tecnologia foi utilizada e trabalho da Setic |
SETIC/CGE |
|||
|
Vídeo Pós- Lançamento |
Direcionamento: Qual tecnologia foi utilizada e trabalho da Setic |
Assessoria de Comunicação - SETIC |
|||
|
Post mídia social |
Pós Lançamento |
SECOM/ Assessorias de comunicação |
|||
|
Fullbanner |
Fullbanner da IA Clara nos Portais do Governo |
Assessoria de comunicação - CGE |
|||
|
Wallpaper |
Wallpaper da IA nos computadores do Governo |
Assessoria de comunicação - CGE |
|||
|
Estabelecer contato com meios de comunicação |
Release direcionamento:” IA na administração pública.” |
Assessoria de comunicação - SETIC |