O problema das “duas peles” entre finanças e grandes modelos

Fonte: "Brain Extreme Body" (ID: unidade007), autor: Zanghu

Fonte da imagem: gerada por Unbounded AI

Há alguns anos, entrevistei um especialista do setor e ele mencionou uma grande confusão na implementação de alta tecnologia na indústria: duas camadas de pele.

Alguns resultados técnicos particularmente impressionantes foram publicados em artigos científicos, que é uma camada de pele. Quando o pessoal técnico da empresa comercializa esses resultados, pode fazer algumas simplificações por questões de engenharia, que é mais uma camada de pele.

Existe uma lacuna entre as duas camadas da pele, assim como a exposição do vendedor e a exposição do comprador, elas não são integradas e consistentes.

Muitas vezes, as empresas com talento técnico, capacidades de I&D e vontade de transformação encontrarão primeiro o problema das “duas camadas de pele”, causando dúvidas sobre a eficácia da tecnologia e taxas de ROI pouco claras.

Entre as várias pessoas que se precipitam na mania dos grandes modelos, as instituições financeiras podem ser as primeiras a enfrentar o desafio das “duas camadas de pele”.

Sabemos que o setor financeiro sempre foi um dos primeiros a adotar novas tecnologias e começou a experimentar a IA muito cedo. Pode-se dizer que é o "melhor aluno" em IA industrial e tem uma boa informatização e base digital. Em todos os cenários de front, middle e back office de instituições financeiras, há espaço para redução de custos e melhoria de eficiência utilizando grandes modelos. Portanto, as finanças também são consideradas o cenário preferido para a implementação de grandes modelos.

Pioneira na implementação de grandes modelos, se a área financeira não consegue resolver o problema das “duas camadas de pele”, significa que ainda existe uma lacuna entre a exposição do vendedor e a exposição do comprador na própria aplicação de grandes modelos.

Este artigo espera esclarecer quais questões estão abrindo a lacuna entre as finanças e os grandes modelos.

01 Pergunta 1: Quem é o principal?

Por se tratar de um modelo em grande escala, será obviamente liderado por empresas de tecnologia e empresas de tecnologia como a OpenAI/BAT, e isto é algo que as instituições financeiras não querem ver.

Um especialista na área financeira disse-nos que depois desta onda de grandes modelos se popularizar, as instituições financeiras ficaram particularmente ansiosas e tiveram uma emoção FOMO (Fear of Missing Out).

Devido à última onda de tecnologia e à ascensão dos smartphones e da Internet móvel, muitos negócios de bancos tradicionais e empresas de valores mobiliários foram adquiridos por empresas financeiras da Internet. De acordo com especialistas da indústria, esta “tragédia épica” nunca deve ser repetida.

Impulsionadas pela ansiedade tecnológica, as instituições financeiras são muito ativas no acompanhamento da tendência dos grandes modelos. Há pouca necessidade de os fabricantes de tecnologia fazerem muita educação de mercado. Toda a indústria tem tido um desempenho extremamente bom na aceitação de grandes modelos.

Ao mesmo tempo, as instituições financeiras também atribuem grande importância à compreensão firme dos "chips principais" dos grandes modelos financeiros nas suas próprias mãos, enfatizando "colocar-me em primeiro lugar". Algumas pessoas do setor bancário salientaram: Somente modelos grandes e adequados para bancos podem ser verdadeiramente aplicados profundamente a cenários e processos de negócios. **Como fazer isso especificamente?

**A primeira categoria são chips duros. **

Para as instituições financeiras, a segurança dos dados e a conformidade com a privacidade são metas difíceis, sem compromisso e têm requisitos muito rigorosos. Isto também leva à necessidade de construção localizada e de implantação e operação privatizadas de modelos financeiros em grande escala.

A exigência de implantação local tem vantagens e desvantagens para grandes fabricantes de modelos. A vantagem é que, em comparação com o modelo MaaS de outros setores que chama diretamente interfaces API, a implantação local tem preço unitário mais alto, lucros mais altos e valor comercial mais alto. A desvantagem é que a implantação privada requer um conjunto completo de soluções em soluções em nuvem, processamento de dados, armazenamento, treinamento de modelos, engenharia imediata, serviços de operação e manutenção, etc. dificuldades para os prestadores de serviços técnicos.

**A outra categoria são chips macios. **

Para que os grandes modelos financeiros tenham um bom desempenho, eles exigem o ajuste fino de dados proprietários, a introdução de conhecimento de domínio e feedback baseado em cenários. O próprio setor bancário tem uma base digital muito boa e um acúmulo profundo de dados, o que se torna uma moeda de troca suave em suas mãos.

Ao desenvolver produtos generativos de IA, o Morgan Stanley combinou mais de 100.000 relatórios financeiros, dados internos e literatura financeira para ajustar o modelo básico da OpenAI. Segundo relatos, o setor bancário agrícola do meu país também acumulou 2,6 TB de dados de treinamento de alta qualidade para o treinamento de grandes modelos. Além disso, embora o grande modelo básico tenha um forte conhecimento geral, falta-lhe capacidade de "curso profissional" e conhecimento financeiro profissional. Além disso, o cenário financeiro de negócios é complexo. O grande modelo incipiente deve desenvolver capacidades de serviço de alta qualidade e tornar-se um excelente "deputado de IA". Dirigir” não é fácil.

Isto exige que os grandes fabricantes de modelos e empresas de tecnologia mudem o pensamento habitual de "centrado na tecnologia" e "estou aqui para capacitá-lo/subvertê-lo", melhorem a consciência do serviço e cooperem com os clientes financeiros, concentrando-se nos clientes financeiros.

A implementação de modelos de grande escala nas finanças não é de forma alguma e não pode ser mais uma “disrupção tecnológica da indústria”. Quer se trate de um grande fabricante de modelos em geral ou de um integrador de provedores de serviços ISV, eles devem seguir a linha de base do “cliente em primeiro lugar”.

02 Pergunta 2: Por que a integração é difícil?

Se as instituições financeiras são as principais, as empresas tecnológicas não se tornariam “grandes equipas de construção de modelos” que só podem cobrar uma pequena taxa pelo trabalho árduo e não podem exercer a sua inovação tecnológica?

Grande, não especial, não.

**Em primeiro lugar, a IA financeira não é uma coisa nova. **

As instituições financeiras não ignoram tanto a IA como todos pensam. Na verdade, entre todos os setores, o campo financeiro está definitivamente entre os primeiros em termos de “conteúdo de IA”. Há alguns anos, entrevistei o reitor da Escola de Inteligência Artificial de uma universidade chinesa 985. Ele disse sem rodeios que os estudantes da área de IA não vão para BAT ou empresas iniciantes após a formatura, mas para centros de informação/ centros de tecnologia sob instituições financeiras como o China Merchants Bank., engajados em inteligência artificial financeira.

Portanto, a tendência da IA financeira desenvolveu-se significativamente há alguns anos. É por isso que a popularidade de grandes modelos apenas começou este ano. Um grande número de bancos nacionais, como ICBC, Ping An, Banco Agrícola da China, China Merchants Bank e o CITIC Bank podem estabelecer rapidamente sua própria equipe de pesquisa dedicada para grandes modelos GPT. A capacidade do banco de agir em tempo útil depende da acumulação de investimentos em IA ao longo dos últimos anos. Portanto, focando nas instituições financeiras, construímos também bons modelos financeiros.

**Em segundo lugar, os modelos grandes são uma novidade. **

Como o modelo grande é melhor do que essa “IA tradicional” e o que ele pode fazer? Esta é uma nova questão completamente em branco.

Teoricamente, grandes modelos podem ser executados em todos os elos de toda a cadeia do setor bancário, e cenários de aplicação LLM podem ser encontrados em todas as linhas de negócios e em todas as inteligências. Mas, na realidade, não está claro como integrar o grande modelo ao negócio quando todos os links estão totalmente implementados, o que significa que muita exploração falhará e será desperdiçada.

Para acelerar a exploração, reduzir custos e reduzir riscos, as instituições financeiras e as empresas de tecnologia devem trabalhar juntas, permitindo que especialistas financeiros, cientistas de algoritmos, engenheiros, testadores, etc. , e “remover falsidades, mantendo a autenticidade” em termos de demanda”.

O responsável por uma instituição financeira disse sem rodeios que o setor financeiro de hoje tem uma gama muito rica de aplicações inteligentes.Se você abrir o manual de promoção de produtos financeiros de uma empresa de IA, poderá ver centenas de recursos segmentados, mas como escolher o mais adequado para integrar em sua própria instituição?Nos negócios, haverá muitas tentativas e erros neste processo.

**Atualmente, a indústria basicamente chegou a um consenso de que os cenários devem ser otimizados para grandes modelos financeiros. Existem várias palavras-chave: **

**1. Alta frequência. **Em alguns cenários e aplicações principais, modelos grandes podem ser colocados em funcionamento o mais rápido possível para resolver problemas e reduzir o limite de aplicação. Por exemplo, cargos originalmente intensivos em mão-de-obra, como atendimento ao cliente inteligente e consultoria de investimento inteligente, podem rapidamente trazer resultados significativos de redução de custos e melhoria de eficiência.

**2. Valor alto. **Seja o primeiro a explorar áreas com valor social e comercial. Por exemplo, o financiamento inclusivo é um serviço financeiro que é atualmente valorizado tanto pelo governo como pelo setor privado. Requer insights de dados precisos, custos mais baixos e capacidades de serviço altamente acessíveis para reduzir de forma abrangente os custos financeiros das pequenas, médias e microempresas/ comerciantes. Entre eles, as capacidades de expressão multimodal e as poderosas capacidades de compreensão e análise de grandes modelos podem desempenhar um papel muito bom.

**3. Fácil de implantar. **A primeira reação de muitos profissionais financeiros quando ouvem falar de grandes modelos é: os pequenos modelos podem fazer isso? Grandes modelos apresentam requisitos mais elevados para o poder de computação e a estabilidade da infraestrutura de hardware. As instituições financeiras estão acelerando a promoção de hardware localizado. Grandes modelos são implantados em cada linha de negócios, o que traz pressão de desempenho, pressão de custos e pressão de implantação. Todos são muito grande. Portanto, após o modelo grande ser compactado e otimizado, ou um modelo pequeno com o mesmo efeito, ele pode ser implementado em cenários de negócios, como o modelo grande gerando recomendações para produtos financeiros bancários, e o modelo grande atuando como assistente de pesquisa para empresas de valores mobiliários. Para essas IA tradicionais que já estão em uso, o modelo grande pode ser usado. A atualização do modelo não aumentará os custos excessivos de poder de computação e a carga de trabalho de engenharia, e é um cenário progressivo que é mais fácil de implementar.

Precisamente porque o modelo grande é uma camada de pele e a aplicação real é outra camada de pele, como integrar as duas camadas de pele e em quais cenários devem ser priorizados é um caminho não percorrido. Nem as instituições financeiras nem as empresas tecnológicas podem trabalhar sozinhas. Só trabalhando em estreita colaboração poderemos encontrar o melhor caminho de integração entre cenários financeiros e grandes modelos.

03 Pergunta 3: Por que existem tantas algemas?

É possível encontrar um cenário, focar em conquistá-lo e depois replicá-lo em larga escala, para que os grandes modelos financeiros possam avançar a passos largos?

Dizemos que as instituições financeiras têm “mais pessoas, mais dinheiro e mais tecnologia”, mas isto é apenas relativo a outras indústrias. Na realidade, é impossível para as instituições financeiras alocar orçamentos ilimitados, investir mão de obra ilimitada e abrir cenários ilimitados para grandes modelos mostrarem as suas competências à vontade. Além disso, ainda existe um grande número de bancos e empresas de valores mobiliários de pequena e média dimensão no domínio financeiro, e o custo da inovação tecnológica que podem suportar também é limitado.

Um profissional bancário mencionou o AIGC e disse: A concorrência está a intensificar-se, o pessoal é limitado, faltam talentos e os custos são reduzidos.

**Pode-se dizer que dançar com algemas é o principal motivo da “pele de duas camadas” das finanças e das grandes modelos, “o show do vendedor e o show do comprador”. **

**Por exemplo, o problema do poder computacional. **No processo de substituição de localização, os grandes modelos financeiros devem quebrar as amarras do treinamento caro e dos altos custos de poder de computação, o que representa um teste abrangente para a base de hardware dos fabricantes de modelos, capacidades de autopesquisa, capacidades de compatibilidade ecológica e colaboração de software otimização.

Atualmente, os principais fornecedores de nuvem estão fazendo grandes esforços para desenvolver hardware autodesenvolvido, como Kunlun do Baidu, Yitian do Alibaba, Shengteng da Huawei, bem como software de suporte e ecossistema. Sem eles, é difícil realmente vencer o grande modelo financeiro.

**Também existem limitações da própria tecnologia. **Francamente falando, ainda existem muitos problemas na própria tecnologia de grandes modelos, especialmente quando é implementada no campo financeiro. O problema da ilusão deve ser resolvido. O absurdo é inaceitável para negócios financeiros rigorosos. A natureza de caixa preta do modelo tornará a tomada de decisão inteligente da IA indigna e indigna de confiança, tornando-a incapaz de ser verdadeiramente utilizada em consultoria de investimento financeiro e decisões de análise de mercado.

**Além disso, as instituições financeiras também medirão a relação entre entradas e saídas do ROI. **Mas como uma grande quantidade de IA tradicional foi acumulada no cenário financeiro, como atendimento inteligente ao cliente, todos podem ter recebido ligações de vendas de produtos e cobrança de contas de robôs.

Portanto, após a introdução de grandes modelos, não existe atualmente um padrão de medição claro sobre quanto benefício ele pode trazer aos clientes, como avaliar o ROI da relação retorno/produção e quais são as melhorias trazidas por grandes modelos.

A incapacidade de quantificar a contribuição dos grandes modelos para o negócio conduzirá obviamente à concorrência desordenada entre grandes fabricantes de modelos ou à concorrência pelas relações com os clientes.Isto também se tornou uma preocupação oculta para a ineficácia dos grandes modelos financeiros.

Eliminar a lacuna entre a indústria e os grandes modelos será um movimento padrão no caminho dos grandes modelos no futuro.

Neste processo, os primeiros modelos financeiros em grande escala a enfrentar o problema da "pele de duas camadas" podem fornecer muitas referências e práticas úteis, e as instituições financeiras se tornarão o primeiro lote de modelos de garimpeiros em grande escala a descobrir minas de ouro mais cedo.

Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
0/400
Nenhum comentário
Negocie cripto em qualquer lugar e a qualquer hora
qrCode
Digitalizar para transferir a aplicação Gate
Novidades
Português (Portugal)
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)