Pista de mão de obra + modelo grande, sem salpicos imaginários

Fonte original: Titanium Media

Fonte da imagem: Gerado por Unbounded AI

Depois que o modelo de grande porte foi implementado no mercado de nível empresarial por um período de tempo, ele não fez o splash imaginário.

**“São todos dados de rede pública, e as empresas não se atrevem a usá-los.” Existem também muito poucos cenários de aplicação prática. Um especialista em pré-vendas para software de nível empresarial de RH disse à Titanium Media.

Atualmente, a empresa implementa principalmente os três cenários principais de descoberta de talentos, avaliação de currículos e perguntas de entrevista. A Titanium Media entende que o mercado pode agora sentir a informação das demissões de empresas e do aperto das necessidades de recrutamento, mas isso não afeta o fluxo de talentos de alta qualidade, especialmente para as necessidades de recrutamento de grandes e médias empresas, que precisam melhorar a capacidade de identificar talentos e aproveitar a eficiência humana;

Mas, na verdade, não há muitos casos de clientes desta empresa, e o grande modelo treinado para o cliente é chamado de “processo iterativo contínuo”, e a taxa está planejada para ser cobrada em um modelo de assinatura, e os clientes-piloto que estão aceitando essa prática atualmente são das 500 maiores empresas multinacionais do mundo e empresas líderes da indústria nacional.

Na verdade, o mercado de demanda do cliente também está cheio de opiniões diferentes sobre produtos de IA generativa ou tecnologias de grandes modelos. A Titanium Media entende que, especialmente para clientes de grandes empresas, embora muitos clientes empresariais anunciem publicamente que estão ativamente tentando modelos grandes, ansiosos para resolver todos os pontos problemáticos encontrados no negócio atual, mas ao mesmo tempo, também há clientes corporativos que desdenham disso, acreditando que a experiência e os talentos que acumularam não serão simplesmente substituídos por grandes modelos.

“O desenvolvimento e treinamento de modelos grandes ainda é muito complexo, pode ser mais conciso?”, disse um cliente da indústria tradicional de energia em uma reunião a portas fechadas com um importante fabricante chinês de TIC.

O cliente apontou claramente: **"Embora certas conquistas tenham sido feitas na promoção da inteligência no passado, ainda há uma lacuna muito grande com a nossa imaginação. Além das complexas condições naturais das próprias operações de produção da indústria, a falta de compreensão da inteligência por parte de vários fabricantes subordinados levou a muito investimento, mas eles ainda estão lutando suas próprias batalhas.

Por outro lado, modelos grandes não são “baratos” nesta fase, e as empresas que podem se dar ao luxo de usar modelos grandes ou têm um certo volume de produção ou um certo orçamento em mãos, e acreditam que a tecnologia generativa trazida pelos grandes modelos vale a pena tentar e implantar.

O responsável por uma empresa cotada em bolsa de IA falou recentemente sobre o grande modelo de empreendedorismo, salientando que “o grande modelo no mercado tem algumas capacidades básicas, mas é apenas um brinquedo ou uma ferramenta, e o modelo grande não é apenas essas capacidades, mas mais importante, é realizar a realização comercial”. "

Na verdade, seja o diagrama de Wensheng ou o texto de Wensheng, a IA generativa impulsionada pela tecnologia de grandes modelos mostra seus enormes cenários de aplicação. De acordo com estatísticas incompletas da Titanium Media, atualmente há nada menos que 50 empresas gigantes e startups de IA participando, e o modelo geral de grande porte também está tentando acessar várias plataformas de nuvem para as empresas chamarem ou personalizarem e desenvolverem modelos privados.

Vale a pena mencionar que na primeira conferência de desenvolvedores realizada em 6 de novembro, a OpenAI explicou a direção de seus próximos esforços, incluindo: fortalecer o comprimento da entrada de texto, o modo de saída em conformidade com o modo pré-determinado, mais e melhores dados de treinamento de qualidade, mais multimodalidade, conhecimento de domínio e lógica de negócios, e preços mais favoráveis.

Esta é uma boa notícia para outros desenvolvedores ou usuários de IA, mas é uma espada pendurada no topo para todos vocês que são grandes empreendedores de tecnologia modelo.

Ao mesmo tempo, a revisão de conformidade e a segurança de privacidade de conteúdo generativo também são pré-requisitos necessários para que grandes modelos ou tecnologias de IA generativa sejam popularizados no mercado.

Na China, em 11 de outubro, o site oficial do Comitê Técnico Nacional de Padronização de Segurança da Informação divulgou os “Requisitos Básicos para a Segurança de Serviços de IA Generativa” (rascunho para comentários) para solicitar opiniões do público. Este é o primeiro rascunho do projeto regulatório especificamente para o campo da segurança de IA generativa na China, e também é um apoio para as “Medidas Provisórias para a Gestão de Serviços de IA Generativa” lançada por sete departamentos, incluindo a Administração do Ciberespaço da China em julho.

Em comparação com o frenesi e agitação quando o modelo grande chegou, na fase de pouso real, a exploração e teste de como aplicar o modelo grande em profundidade na indústria acaba de começar.

Cada produto vale um grande modelo refazer?

“Todo produto merece ser refeito com um modelo grande”, essa é uma narrativa comum para empresas que são novas na camada de aplicação de modelos grandes.

Mas antes de refazermos o produto, há uma questão mais fundamental: onde pode ser usado o grande modelo?

No mercado B-end, esta pergunta pode ser mais difícil de responder, ou pode ser difícil ter uma única resposta.

A partir do código aberto de modelos como a série LLaMA da Meta, a série StableLM da Stability AI, MPT e outros modelos, bem como os testes internos de grandes modelos gerais domésticos para APIs de nível empresarial, mais startups foram estimuladas a acompanhar e tentar.

Se um conjunto de processos de recrutamento é desmontado em recolha de currículos, triagem, avaliação, entrevista, oferta e onboarding, em toda a cadeia, a tecnologia de interação em linguagem natural impulsionada por grandes modelos reflete-se mais diretamente na melhoria da eficiência de recrutamento de RH e na melhoria da experiência do utilizador.

Como uma empresa inteligente de software de gestão de recrutamento, a MOKA defende a transformação dos principais sistemas de recursos humanos com IA. No final de junho deste ano, a MOKA anunciou o lançamento do Eva, uma solução de produto inteligente baseada em grandes modelos, incluindo triagem de currículos, perguntas de entrevista personalizadas, revisões de redação de IA, BI conversacional e chatBot para funcionários. Por exemplo, a função de chatbot de funcionários é usada para que os funcionários concluam tarefas relacionadas ao recrutamento e recursos humanos e obtenham informações relevantes, semelhante a um assistente de IA que fornece consultoria. O BI conversacional interage com uma interface de linguagem natural, dando aos funcionários acesso rápido a bancos de dados, consultando métricas-chave e apoiando a tomada de decisões e o gerenciamento de negócios.

Da mesma forma, Beisen anunciou pela primeira vez a função de teste interno baseada no grande modelo Wenxin Yiyan da Baidu - redação de JD de recrutamento e produção de cartazes de recrutamento. Na conferência da primavera em maio, Beisen também lançou um novo produto de IA, o Sr. Sen, um coach de liderança pessoal, para a transformação e adaptação de novos líderes, gestão de equipes, desenvolvimento pessoal, feedback de desempenho, etc. De acordo com Ji Weiguo, CEO da Beisen, entrevistas de IA, robôs de serviço de funcionários e robôs de sparring serão cenários que podem ser combinados com grandes modelos.

Yonyou e Kingdee optaram por integrar os recursos de modelos gerais de grande porte e combiná-los com seus próprios dados de domínio privado para treinar modelos de domínio de nível empresarial aplicados a cenários de software de processo, como recursos humanos, finanças e cadeia de suprimentos.

Bao Fei, arquiteto sênior de aplicativos da Yonyou, apontou ao se comunicar com a Titanium Media: "Neste estágio, o modelo grande ainda está longe da indústria, e os clientes estão mais preocupados com o tipo de valor que ele pode trazer para a indústria. "

Atualmente, a lista de aplicativos de modelo de domínio suportados pelo Yonyou YonGPT inclui: visão de negócios corporativos, geração inteligente de pedidos, controle de risco de fornecedores, otimização dinâmica de inventário, descoberta inteligente de talentos, recrutamento inteligente, análise de orçamento inteligente, controle inteligente de despesas de viagens de negócios, geração de código, etc.

Kingdee Sky GPT é atualmente usado principalmente em finanças, recursos humanos e cenários de pesquisa e desenvolvimento de programas. Por exemplo, o primeiro modelo financeiro da Kingdee é semelhante a um assistente de IA financeira, fornecendo serviços como perguntas e respostas financeiras, reembolso de despesas, aprovação de contratos, geração de relatórios, análise e previsão.

A Titanium Media relatou anteriormente que Zhao Yanxi, vice-presidente executivo e gerente geral da plataforma de P&D da Kingdee China, descobriu que as empresas têm um forte interesse em grandes modelos durante a pesquisa, mas os dois feedbacks mais mencionados são “ansiedade de IA”, medo de que se você não usar IA, você ficará para trás, e o outro é “IA é confusa” e não sabe como usá-la nos negócios. A estratégia da Kingdee é encontrar um grupo de clientes protótipos para fazer a verificação piloto de cenários de negócios, o que está mais próximo do negócio real da empresa.

Na opinião de Wang Jingfei, CTO do iHR, “a coisa mais importante para os clientes não é qual grande modelo é usado, mas o que o grande modelo ajuda o negócio”. **O chefe prestará atenção aos indicadores do negócio, como produção per capita, análise de entrada, otimização de custos, etc., e o RH prestará atenção à experiência do funcionário e eficiência do trabalho, como um processo de pessoal mais suave (entrada, transferência, horas extras, etc.). "

Com foco no pessoal central + eficiência humana, o pessoal da I também está cooperando com a DingTalk para lançar três tipos de soluções inteligentes para eficiência operacional, gestão de riscos e especialistas em negócios, cujo objetivo é resolver o problema com o qual os empresários estão mais preocupados: usar o método mais científico e a premissa de menor risco para realizar a estratégia empresarial de forma mais eficiente.

Em termos de eficiência operacional, através da capacidade de modelo em larga escala, pode fornecer aos funcionários 7*24 horas de consultoria de RH, processos e outros suportes, especialistas em gestão de riscos de pessoal podem gerenciar os riscos que podem ocorrer em recursos humanos, como alerta precoce de riscos potenciais no conteúdo de contratos de trabalho, e apresentar sugestões de correção e planos de risco, especialistas em desempenho entre especialistas em negócios podem orientar os funcionários sobre como concluir o desmantelamento de metas, alinhamento e revisão de OKRs.

Encontrar cenários-piloto e clientes de protótipos também é a estratégia da maioria dos fabricantes de aplicativos de modelos em grande escala.

É o problema da caixa preta da tecnologia, e é também o dilema do investimento real

No entanto, quando se trata de usuários finais, devido à grande variedade de lógica de negócios empresariais e formas organizacionais, ainda há um certo grau de confusão sobre se o grande modelo é ChatGPT ou “ChatPPT” de “teste” para “aterrissagem completa”.

"Não dissemos que o fizemos, mas podemos fazer uma referência técnica para os clientes quando eles têm uma demanda tão forte, porque às vezes a tecnologia é muito avançada e a gestão de clientes não consegue acompanhar, o que só pode fazer os clientes salivarem. Um líder da equipe de SaaS de RH disse à Titanium Media. Atualmente, a empresa planeja incorporar recursos de modelos grandes de IA de terceiros na versão SaaS e, quando questionada se ela foi implementada, a pessoa responsável não se comprometeu.

Nas descrições de produtos de teste interno dos diferentes fabricantes acima, o paradigma de aplicação do modelo grande em seus respetivos campos não trouxe mudanças subversivas, mas mais adicionou mais uma escolha de métodos de interação para diferentes links, e o padrão de medição nada mais é do que “se é suficiente para entender a linguagem humana e se ela pode produzir ações inteligentes relevantes”. Em outras palavras, o nível de inteligência não é determinado pelo software, mas pelo grande modelo usado por trás dele.

Objetivamente, o modelo de grande porte é um modelo probabilístico, e o tipo de conteúdo gerado é completamente alterado, e o desejo de alcançar resultados mais precisos é limitado por dados, cenários, talentos, custos e outras questões, que estão todas ligadas ao investimento de condições reais. Além disso, os fabricantes de aplicações também optarão por desenvolver em vários modelos, a fim de reduzir os riscos potenciais causados pela operação e pelas políticas das empresas modelo.

Esta é uma questão que deve ser considerada como um grande modelo para o mercado.

De acordo com o Oracle Cloud HCM Product Owner, cerca de 80% das iterações de produtos Oracle são orientadas pelos requisitos do cliente. A Oracle identificou mais de 100 cenários de alto valor para IA gerada por IA, como criação assistida, recomendações, sumarização e muito mais, e está apenas começando.

O Oracle Cloud HCM foi desenvolvido com base na OCI Cloud Platform e tem recursos de IA generativa incorporados. Por um lado, os clientes podem usar seus próprios dados para otimizar o modelo, e a plataforma fornece proteção para informações confidenciais e proprietárias dos clientes e, ao mesmo tempo, gera conteúdo mais alinhado com as necessidades do usuário por meio de prompts integrados, reduzindo erros factuais e vieses.

A fim de aplicar o modelo de grande porte a cenários de nível empresarial tanto quanto possível, Bao Fei apontou que a solução atual da Yonyou é contar com experiência especializada em parte e também realizar controle de processo orientado a negócios, incluindo a adição de uma camada de controle à camada superior do modelo grande para controlar a confiabilidade e conformidade dos resultados gerados.

Após a introdução da regulamentação dos grandes modelos em agosto, o iHR dará prioridade aos grandes modelos nacionais e aos grandes modelos de código aberto. Para algumas informações gerais, como dados públicos, como leis e regulamentos no “Assistente Jurídico”, modelos domésticos de grande porte serão usados para completar o treinamento e ajuste fino, enquanto para informações relacionadas a empresas e funcionários, modelos de código aberto serão considerados para completar o treinamento de forma independente para garantir a segurança das informações pessoais.

Wang Jingfei apontou que, no processo de treinamento de modelos, é inevitável precisar de seus próprios dados acumulados de “domínio privado” e, a fim de garantir a conformidade de dados de grandes modelos de treinamento empresarial, o atual provedor de modelo básico subjacente fornece alguns recursos de acesso, permitindo que bancos de dados privados acessem modelos grandes e os usem em combinação com modelos grandes. Além disso, a maioria dos grandes modelos nacionais fornece suporte em outros aspetos da segurança de dados.

Ao mesmo tempo, os fornecedores de aplicativos não conseguem acessar modelos grandes sem problemas.

A pessoa responsável por um produto SaaS de RH disse à Titanium Media: "Os fornecedores de RH são diferentes dos fornecedores de IA, no passado, os dois lados estavam em um estágio em que esperavam um pelo outro, mas a cooperação era relativamente profunda. O maior problema para os fornecedores de IA é que eles têm excelentes algoritmos, mas não têm dados relacionados ao negócio vertical, e o lado comercial tem uma grande quantidade de dados, e os recursos de IA são relativamente escassos. Os dados das empresas de IA e os dados dessas empresas serão lentamente combinados, e acho que isso é definitivamente uma tendência. "

Por exemplo, antes do surgimento de grandes modelos, esta empresa já estava experimentando entrevistas de IA, embora muitas empresas estejam tentando essa coisa nova, mas sua aplicação não é muito difundida. A empresa acredita que a decisão sobre escolher ou não a entrevista de IA como cenário de candidatura depende da posição a ser recrutada e da credibilidade da capacidade de entrevista de IA, etc., “No cenário real, os empregadores têm dúvidas sobre a capacidade das entrevistas de IA para avaliar os candidatos, e os critérios para avaliar sistematicamente os candidatos são diferentes, e se eles são objetivos e credíveis precisa ser verificado, e levará tempo para aceitar.” "

O responsável pela empresa start-up A acima referida salientou também que, a nível do produto, irá cooperar com amigos ou investigação e desenvolvimento independentes, e algumas empresas de Internet irão atracar e embalar diretamente as suas soluções técnicas.

"A aplicação da IA no campo do SaaS de RH é relativamente limitada. "Os produtos de IA envolvidos nesta empresa incluem, principalmente: análise de currículos, identificação automática de carteiras de identidade/cartões bancários, reconhecimento facial e assinaturas eletrônicas, e os links de inscrição giram principalmente em torno dos módulos de correspondência de empregos e recrutamento.

No link salarial, o sistema salarial de muitas grandes e médias empresas ainda é relativamente complexo, incluindo o cálculo de comissões e bônus, se é um método flexível de despacho de emprego, o sistema salarial é pontual, e alguns são calculados por peça, e ao mesmo tempo, no processo de prática, existem muitas fontes desses dados, ou seja, existem muitos sistemas, se você não pode fazer a interface (impostos, previdência social, banco, governo), então você precisa de outras tecnologias para sincronizar os dados.

"**O custo do atual modelo grande ainda é relativamente alto, portanto, para cenários de alta frequência e baixo valor e cenários de baixa frequência e alto valor, a diferença no desempenho de custo será relativamente grande. **Atualmente, o iHR lança assistentes jurídicos de pessoal, análise de risco de contratos de trabalho e especialistas em coaching de desempenho, que pertencem a cenários de baixa frequência e alto valor e, ao mesmo tempo, também estamos explorando ativamente cenários de usuários de alta frequência e alto valor. Wang Jingfei disse à Titanium Media.

Para este fim, o iHR escolhe primeiro o link de desempenho, o aspeto do custo é uma das considerações e, mais importante, o iHR baseia-se na consideração do papel digital de “especialista em gestão de recursos humanos”. A gestão de desempenho, especialmente OKRs, requer muita metodologia e prática para se sair bem. O iHR fornecerá um grande número de especialistas e, ao capacitar a IA para capacitar esses especialistas, a influência dos especialistas será maximizada.

Na opinião de Wang Jingfei, se a parte do aplicativo quiser usar o modelo grande básico de forma segura e conveniente, ele deve começar a partir dos seguintes níveis:

(1) O banco de dados vetorial é usado com o modelo grande. O banco de dados vetorial autoconstruído é usado para armazenar dados do cliente, que são armazenados apenas no servidor do iHR e não estarão abertos a modelos externos.

(2) Adote modelos grandes autoconstruídos. Para modelos grandes em alguns campos verticais, como “HR Legal Assistant”, que requer uma grande quantidade de documentos e acúmulo de dados, é mais apropriado construir um modelo auto-construído + ajuste fino. Com base no modelo autoconstruído, o pessoal é ajustado com base nas características da lei.

(3) Dessensibilização de dados. Alguns dados devem ser analisados por um modelo grande externo, e os dados podem ser dessensibilizados e transmitidos para o modelo grande. Após os dados mascarados, o modelo grande tem apenas uma sequência de números e um ID aleatório para identificar o proprietário dos dados, e o modelo grande retorna o ID correspondente ao sistema i pessoal depois de concluir a análise e, em seguida, o pessoal i retorna ao cliente depois de concluir o mapeamento interno.

Anti-pensamento

Na verdade, não só a trilha de RH, mas outras indústrias também estão enfrentando o problema do pouso de modelos em larga escala.

Em abril, o DingTalk foi o primeiro a demonstrar suas conquistas inteligentes: ao acessar o modelo Ali Tongyi, percebeu a capacidade de “varinha mágica” de IA em quatro cenários de alta frequência, como bate-papo em grupo, documentos, videoconferência e desenvolvimento de aplicativos. A julgar pelos resultados recentes, após os testes internos de mais de 500.000 empresas, a “AI Magic Wand” da DingTalk foi lançada oficialmente, e 17 produtos e 60+ cenários, como bate-papo DingTalk, documentos, base de conhecimento, mapa cerebral, flash e Teambition foram totalmente abertos para testes.

Falando sobre o processo de acesso ao modelo grande, Ye jun falou sobre dois pontos na troca anterior com a Titanium Media: um está na camada de interação, a conexão entre a interface de aplicação de cada produto do DingTalk e a API do modelo grande Qianwen, e o outro é o encaixe entre os modelos, e o modelo grande Qianwen precisa de algum texto geral do documento da base de conhecimento.

Na visão de Ye jun, não é difícil se conectar com o modelo grande, mas como conectar os diferentes sistemas de negócios na plataforma DingTalk com o modelo grande. "Agora, muitos dos dados no DingTalk têm implicações comerciais, e o modelo de encaixe é mais complicado, teoricamente não é um modelo grande no sentido tradicional, mas um modelo de médio porte com certas características da indústria, ou uma certa estrutura de sistema de aplicação. Portanto, acho que o período de tempo para integração será maior, o que também é uma grande diferença entre aplicativos corporativos e pesquisa geral tradicional. "

Em relação à comercialização, Ye jun disse que o DingTalk considerará dois modelos: um é para serviços comerciais de valor relativamente alto, fazer diretamente o carregamento de assinatura e combiná-lo na base do DingTalk Professional Edition, Exclusive Edition e Special Edition;

Como o próprio DingTalk está conectado a muitas aplicações ecológicas, como permitir que startups SaaS chamem diretamente os recursos de modelo da plataforma por meio do DingTalk e transformem produtos SaaS é algo que pode ser levado como um aplicativo de plataforma. A cooperação acima mencionada entre o DingTalk e o pessoal do i pode ser um dos caminhos típicos no futuro.

"Para aplicações empresariais, grandes modelos precisam ser treinados, não apenas para serem eficientes e precisos, o que é completamente diferente de escrever um ensaio ou uma simples conversa homem-máquina. Ao falar sobre a experiência prática da Oracle no campo da HCM, Wu Chengyang, vice-presidente e diretor administrativo da Oracle China, disse à Titanium Media. Ele acredita que a Oracle se caracteriza pelo fato de já estar trabalhando em estreita colaboração com grandes empresas de modelos como a Cohere e, no nível de dados, combinará pesquisa vetorial com dados de negócios de clientes armazenados no banco de dados Oracle, juntamente com tecnologias de IA generativas, como a arquitetura RAG, “Somente quando essas tecnologias forem combinadas haverá uma mudança disruptiva.” "

Todo software merece ser reescrito com um grande modelo - tal conclusão é idealista e otimista, mas no cenário real e nos negócios da empresa, há também uma consideração prática de “se vale a pena”.

Voltando à combinação de SaaS de RH e grandes modelos, informações de currículo, informações de entrevistas, avaliação de competências e outras informações que estão altamente relacionadas a “pessoas”, se o modelo grande pode ser treinado com dados proprietários mais precisos, então este sistema de SaaS de RH será o terminal de gestão mais eficiente da empresa, mas esses dados contendo um alto grau de privacidade pessoal serão autorizados por indivíduos para treinamento? Os riscos e benefícios a suportar são todos considerados pelos fabricantes, em vez de procurarem cegamente tecnologia avançada.

Atualmente, muitas plataformas de recrutamento estão ativamente acessando ou cooperando com produtos/serviços de grandes modelos, mas não há muitos cenários de aplicação relativamente maduros, como cenários de recrutamento, cenas de sparring de entrevistas e cenários de avaliação de talentos, os dados desses cenários estão apenas entre dados públicos e dados proprietários, que é o chamado uso inteligente de nível adequado de dados para esses cenários que beneficiam empresas e entrevistadores em ambas as direções. **

Vale a pena mencionar que, embora as empresas possam acessar plataformas de código aberto para treinar grandes modelos, elas são obrigadas a cumprir diretrizes mais rígidas de conformidade e proteção de segurança. Atualmente, a indústria já está alerta para o risco de desligar a tecnologia de código aberto. Conectar-se a uma plataforma de código aberto, ou mesmo usar GPT de forma privada para testes internos, está correndo um grande risco.

Atualmente, parece que os fornecedores de HRSaaS precisam tentar cometer erros um a um nos milhares de cenários na “seleção, uso, educação, retenção e partida” de cenários de SaaS de RH, e esse custo pode não ser muito diferente de reescrever um conjunto de produtos.

Além disso, se ela pode ser comercializada é a proposta final da IA generativa, pelo menos no mercado ToB, a essência da tecnologia é servir aos negócios.

Seja a escolha de destilação de modelo grande de código aberto ou chamadas de API de terceiros, as empresas e os fabricantes estão ansiosos para tentar, mas a aplicação de modelos grandes de IA é, em última análise, fornecer aos funcionários um aplicativo de cenário. Espera-se amplamente que a IA liberte o pessoal da linha de frente de tarefas tediosas, perigosas e repetitivas, mas, neste estágio, a IA generativa está principalmente apenas adicionando novas experiências funcionais em seus respetivos campos. No futuro, haverá mais tecnologia de IA, mas quanto valor econômico terá para a empresa e se é suficiente para ganhar o reconhecimento mútuo e o pagamento de clientes e funcionários da linha de frente… A exploração de aplicações de IA apenas começou.