A OpenAI, organização controladora do Chat, parece estar à beira de uma conquista monumental: resolver o enigma da "superinteligência". No entanto, esse potencial avanço traz consigo profundas implicações para o futuro da humanidade.
A demissão abrupta e subsequente renomeação do cofundador e CEO da OpenAI, Sam Altman, tem sido um tópico de muita discussão no mundo da tecnologia. Novos insights sobre o catalisador para essa mudança continuam a surgir, com um relatório do The Information atribuindo a turbulência interna a um avanço significativo na IA Generativa. Esse desenvolvimento pode potencialmente abrir caminho para o surgimento da "superinteligência" nesta década ou até antes.
'Superinteligência', como o termo sugere, refere-se a uma inteligência que ultrapassa as capacidades humanas. Naturalmente, a criação de um sistema de IA que possua tal inteligência sem salvaguardas adequadas suscita sérias preocupações.
O cientista chefe da OpenAI, Ilya Sutskever, que também faz parte do conselho, é considerado o responsável por liderar essa iniciativa inovadora. Ela permite que a IA utilize dados mais limpos, gerados por computador, para lidar com problemas sem precedentes. Isso implica que a IA não é treinada em várias iterações do mesmo problema, mas em informações que não estão diretamente relacionadas ao problema em questão. Resolver problemas dessa maneira, geralmente matemáticos ou científicos, exige raciocínio — uma característica humana que não é tipicamente associada à IA.
Chat, o principal produto da OpenAI com tecnologia Modelo de linguagem grande GPT (LLM), pode dar a impressão de empregar raciocínio para formular suas respostas, dada sua aparente inteligência. No entanto, ao interagir mais de perto com o Chat, fica evidente que ele apenas repete o que aprendeu com a enorme quantidade de dados que processou, fazendo previsões bastante precisas sobre a construção de frases coerentes e relevantes para a sua consulta. O raciocínio não entra em jogo aqui.
O Information sugere que essa descoberta, que Altman pode ter sugerido em uma conferência recente, afirmando: "em uma nota pessoal, nas últimas semanas, eu pude estar na sala, quando nós meio que empurramos o véu da ignorância para trás e a fronteira da descoberta para frente", enviou ondas de choque através da OpenAI.
Lidando com a ameaça
Embora o Chat atualmente não mostre sinais de superinteligência, é provável que a OpenAI esteja fazendo progressos para incorporar parte desse poder em seus produtos premium, como o GPT-4 Turbo e os futuros "agentes inteligentes".
Estabelecer uma conexão entre as ações recentes do conselho, inicialmente apoiadas por Sutskever, e o avanço da superinteligência pode parecer rebuscado. O avanço relatado ocorreu meses atrás e levou Sutskever e outro cientista da OpenAI, Jan Leike, a estabelecer um novo grupo de pesquisa da OpenAI chamado 'Superalignment', encarregado de elaborar salvaguardas para a superinteligência.
Numa reviravolta interessante, a própria empresa pioneira no desenvolvimento da superinteligência está simultaneamente a construir mecanismos para nos proteger dela, uma reminiscência do Doutor Frankenstein a armar os aldeões com lança-chamas.
O que permanece ambíguo no relatório é se as apreensões internas em torno da rápida progressão em direcção à superinteligência levaram directamente à demissão de Altman. Talvez, no grande esquema das coisas, seja irrelevante.
Atualmente, Altman está a caminho de retomar seu cargo na OpenAI, o conselho foi reestruturado e a busca para desenvolver – e se proteger – da superinteligência persiste.
Para aqueles que acham esses desenvolvimentos desconcertantes, conversar com o Chat para obter uma explicação pode ser esclarecedor.