IA governada para instituições que operam na China,
construída para o registo, a avaliação e o processo transfronteiriço

Registo de algoritmos e de IA generativa: o registo pressupõe que sabe descrever o seu sistema

A Administração do Ciberespaço da China administra um regime de registo para os serviços de informação na internet que utilizam algoritmos de recomendação, alargado aos serviços de síntese profunda e aos serviços de IA generativa oferecidos ao público, com obrigações de avaliação de segurança. Isto é invulgar à escala global. A maioria das jurisdições publica princípios e espera que as empresas os interpretem; aqui existe um registo que uma organização tem ou não tem, ligado a um serviço nomeado, e que pressupõe que sabe descrever a finalidade e o mecanismo do algoritmo, as suas fontes de dados, as suas medidas de segurança e o tratamento das suas saídas. A esse conjunto foram acrescentados requisitos de rotulagem de conteúdo gerado sinteticamente, e legislação de IA mais ampla foi discutida sem ser aprovada -- pelo que a descrição honesta é que o regime de registo está em vigor e o quadro legislativo mais amplo continua em desenvolvimento.

Isso inverte a ordem habitual do trabalho. Se o registo pressupõe uma descrição, a descrição tem de ser verdadeira quanto ao sistema em funcionamento, e continuar a sê-lo quando as instruções, os modelos e as políticas mudam. A plataforma faz a descrição comprovar-se a si própria: cada chamada passa por um único ponto de passagem governado que valida a entrada antes de o modelo correr, valida o que volta face às regras próprias da organização e escreve uma linha imutável no registo -- ator, ação, entradas, saídas, versão do modelo, versão da instrução, versão da política e veredicto -- com escalonamento para uma pessoa nomeada sempre que a resposta chegaria ao público ou afetaria um indivíduo. Quando um regulador pergunta que modelo produziu uma dada saída, sob que política e em que data, a resposta é uma consulta e não uma reconstituição. A KriftAI não obtém um registo para ninguém; torna a prova que o registo pressupõe um subproduto de executar o sistema.

As três leis de dados: classificação, localização e saber quem tocou em quê

A Lei de Cibersegurança, em vigor desde 2017, a Lei de Segurança de Dados de 2021 e a Lei de Proteção da Informação Pessoal de 2021 sobrepõem-se em vez de se justaporem. A Lei de Segurança de Dados exige que os dados sejam classificados e graduados, com deveres reforçados em torno das categorias tratadas como dados importantes. A Lei de Cibersegurança impõe obrigações de localização aos operadores de infraestruturas críticas de informação, de modo que certos dados recolhidos e gerados no decurso das operações sejam armazenados dentro do país. A PIPL fixa deveres de consentimento, minimização, informação e avaliação de impacto sobre a informação pessoal e confere direitos aos indivíduos. Regulamentos posteriores sobre gestão da segurança de dados em rede acrescentaram detalhe quanto à classificação, ao tratamento de incidentes e aos deveres dos operadores.

O que as três têm em comum é que se respondem com registos e não com afirmações. Uma organização tem de conseguir mostrar onde esteve um conjunto de dados, que sistema o processou, quem lhe acedeu e ao abrigo de que autoridade. A plataforma aplica a classificação no ponto de captura e não numa folha de cálculo mantida depois: a classe de dados viaja com a chamada, o acesso limitado por papel faz com que um operador veja apenas o que o seu mandato permite, os modos de registo de conteúdo podem guardar uma impressão verificável em vez do conteúdo quando este é sensível, e cada acesso é escrito num registo imutável. A eliminação certificada produz um certificado inviolável quando um conjunto de dados tem mesmo de desaparecer. Onde a IA ajuda a classificar, resumir ou encaminhar dados regulados, a própria decisão de classificação é um evento registado e reproduzível.

Transferência transfronteiriça: o registo de auditoria é o entregável

Que uma dada exportação de informação pessoal para fora da China seja permitida depende da via aplicável. Uma avaliação de segurança da CAC, um contrato-tipo depositado acompanhado de uma avaliação de impacto sobre a proteção da informação pessoal, ou uma certificação são os caminhos reconhecidos, e qual deles se aplica depende do volume e da sensibilidade dos dados, de o exportador ser ou não operador de infraestrutura crítica de informação, e de os dados caírem numa categoria tratada como importante. Os limiares e as isenções foram ajustados mais do que uma vez, incluindo disposições destinadas a facilitar os fluxos correntes de negócio e arranjos próprios das zonas francas, e a matéria continua a evoluir -- o que aconselha guardar prova que satisfaça a leitura mais estrita e não a mais cómoda.

Em todas as vias a substância é a mesma: salvaguardas documentadas, uma avaliação defensável e um registo do que efetivamente atravessou. Para uma multinacional que opera um modelo partilhado, uma pilha analítica partilhada ou uma função de suporte global, isso significa saber com precisão que campos saíram, quando, para que destinatário e com que base jurídica. O ponto de passagem governado aplica-o em vez de o descrever: uma chamada que enviaria um campo restrito para um destino fora de âmbito é bloqueada antes de o modelo correr, uma derrogação é escalada para uma pessoa nomeada, e a decisão de derrogação é ela própria escrita no registo com o seu motivo. A implantação pode ser organizada para que os dados regidos pelas regras chinesas sejam processados dentro do país, com a política própria de cada jurisdição aplicada no mesmo ponto de passagem e não em sistemas separados que acabam por divergir.

Indústria e cadeia de abastecimento: rastreabilidade que um comprador estrangeiro também vai ler

A base industrial chinesa é a parte da economia mais exposta a processos lidos por pessoas de outros sistemas jurídicos. A documentação de exportação e as declarações aduaneiras, a rastreabilidade do produto do lote de componentes até à unidade acabada, os registos de qualidade e inspeção, os certificados de ensaio e as declarações de fornecedores são lidos pela regulação de mercado e pelas alfândegas nacionais, e depois relidos por compradores estrangeiros, reguladores estrangeiros e pelos auditores dos próprios clientes, aplicando as suas regras de diligência devida e de reporte da cadeia de abastecimento.

A IA já é corrente neste trabalho: classificação de defeitos a partir de imagens de inspeção, análise de rendimento e de processo, previsão de procura e de prazos, extração documental de certificados e declarações, tradução de documentação técnica. Cada uma dessas operações é uma afirmação que alguém a jusante pode testar. A plataforma valida a entrada antes de o modelo correr, valida a saída face às regras próprias da fábrica ou do exportador antes de chegar a um operador, escala para uma pessoa sempre que uma determinação libertaria um lote ou assinaria uma declaração, e escreve uma linha imutável por cada chamada. Uma classificação de defeito que não pode ser rastreada até à sua imagem, à sua versão de modelo e ao seu limiar não é uma classificação em que o auditor de um cliente possa apoiar-se, e um processo de rastreabilidade que não pode ser reexecutado exatamente como estava é um argumento e não um registo.

Bancos, corretoras e seguradoras sob supervisão do PBOC, da CSRC e da NFRA

As instituições financeiras enfrentam as expectativas de risco tecnológico e operacional mais estritas de todos os setores. O Banco Popular da China está no centro do sistema de pagamentos e da supervisão do branqueamento de capitais, a Comissão Reguladora de Valores Mobiliários supervisiona os mercados de valores e de futuros e os seus intermediários, e a Administração Nacional de Regulação Financeira supervisiona a banca e os seguros. Governança de modelos, segurança da informação, continuidade de negócio, subcontratação e risco de fornecedores, e o tratamento da informação de clientes ao abrigo da PIPL cabem todos no seu mandato, e as instituições ficam ainda dentro do regime de registo de algoritmos sempre que oferecem ao público serviços de recomendação ou generativos.

O rastreio de branqueamento e de sanções, os modelos de crédito e de risco, os assistentes de apoio ao cliente, a sumarização de análise e o reporte prudencial passam todos por um mesmo ponto de passagem governado, produzindo prova numa forma que um supervisor, uma auditoria interna e um auditor externo aceitam cada um sem um exercício de tradução posterior. O rastreio é aplicado e não consultivo: uma correspondência bloqueia a chamada, uma derrogação é escalada para uma pessoa nomeada, e essa decisão é registada com o seu motivo. As versões de modelo e de instrução ficam fixadas a cada decisão, pelo que um resultado de crédito ou de vigilância questionado dois anos depois pode ser reexecutado exatamente como estava. Produza a prova prudencial uma vez e deixe-a ser lida muitas vezes.

Interfaces de governança e registos de auditoria em chinês

O chinês padrão é a língua da administração, da regulação, dos contratos e dos tribunais, e a língua de trabalho da esmagadora maioria de quem opera estes sistemas. Registos, avaliações, correspondência de supervisão e conclusões de inspeção são preparados e lidos em chinês. Isso torna a governança em língua chinesa um requisito operacional e não uma comodidade de localização: uma política que um operador não consegue ler na sua própria língua é uma política que não será seguida, e um registo de auditoria que um regulador tem de mandar traduzir é um registo cujo sentido se torna discutível exatamente no momento em que importa.

As definições de políticas, as regras de validação, as mensagens de bloqueio e de escalonamento, as filas de revisão e o próprio registo funcionam em chinês, de modo que quem decide, quem revê um escalonamento e quem responde a um regulador leem todos o mesmo texto e não três aproximações dele. Para as multinacionais, a mesma prova tem de continuar legível para uma função de grupo noutro lugar, pelo que o registo leva ambas sem que nenhuma seja um resumo da outra. Onde a IA ajuda a traduzir documentação técnica ou regulatória, a tradução é uma chamada governada como qualquer outra -- validada, versionada e registada -- porque uma obrigação traduzida que não pode ser rastreada até à sua fonte não é uma obrigação em que se possa confiar com segurança.

Implantação no país e nas próprias instalações

A aplicação de políticas, a inferência e o registo de auditoria correm dentro do ambiente próprio da organização: o seu centro de dados, a sua região de nuvem privada, a sua fábrica. Os dados não saem do perímetro para serem processados, a única versão de residência de dados que sobrevive ao contacto com uma obrigação de localização.

Operação isolada como configuração suportada

Para dados tratados como importantes, para infraestruturas críticas de informação e para ambientes de investigação ou industriais que não permitem qualquer via de saída, implante sem nenhuma. A plataforma não contacta o exterior para telemetria, verificação de licença ou encaminhamento de modelos, pelo que o isolamento completo é uma configuração suportada e não degradada.

Residência jurisdicional para operações multinacionais

Um grupo que opera modelos partilhados em vários países pode implantar de modo que os dados regidos pelas regras chinesas permaneçam onde essas regras exigem, com a política própria de cada jurisdição aplicada no mesmo ponto de passagem e não em sistemas separados que divergem. O que atravessa uma fronteira fá-lo por uma decisão explícita e registada, não por omissão.

Aplicação sem ligação no chão de fábrica e no terreno

A governança não para quando a ligação para. Numa linha de produção, num porto ou numa instalação aduaneira, num local remoto ou dentro de um veículo, a validação continua a executar-se e o registo continua a escrever, e os assentos criados sem ligação reconciliam-se de forma limpa quando a ligação regressa.