Cafeteria administrada por ‘chefe’ de IA enfrenta crise após sequência de falhas curiosas
O sistema que gerencia a cafeteria já realizou compras excessivas — comprou mais de 6 mil guardanapos —, deixou de solicitar pães necessários para os sanduíches e fez pedidos de itens que sequer fazem parte do cardápio, como tomates enlatados.
Apesar dos cafés serem preparados por baristas humanos, as operações do Andon Café, localizado em Estocolmo, estão sob supervisão de uma inteligência artificial chamada “Mona”, desenvolvida pela startup Andon Labs, com sede em São Francisco. Alimentada pela tecnologia Gemini, do Google, a IA gerencia diversos elementos do negócio, incluindo contratação de funcionários e o controle de estoque.
O empreendimento, lançado em meados de abril, faturou mais de US$ 5.700, porém já consumiu boa parte do investimento inicial de mais de US$ 21.000, principalmente em custos de abertura. Atualmente, restam menos de US$ 5.000 do orçamento, e há a expectativa de que as finanças se estabilizem no futuro, levando o café a operar com lucro.
Frequentadores acham a ideia curiosa e divertida, podendo interagir com o sistema via telefone disponível no local. A cliente Kajsa Norin comentou que gostou da bebida e achou interessante observar os resultados dessa experiência inovadora.
Especialistas expressam preocupações éticas sobre o uso crescente da IA na sociedade, especialmente em papéis decisórios como entrevistas de emprego e avaliação de pessoal. Emrah Karakaya, professor do Instituto Real de Tecnologia KTH, alerta para problemas que podem surgir, incluindo a responsabilidade em casos de falhas, como intoxicações alimentares, e os impactos negativos potenciais nas pessoas e nos negócios caso não haja uma estrutura organizacional adequada.
A Andon Labs, criada em 2023, tem foco em pesquisa e segurança no campo da inteligência artificial e busca entender o desempenho de agentes de IA em cenários reais, fornecendo-lhes recursos financeiros e ferramentas eficientes. A startup já colaborou com organizações como OpenAI, Anthropic, Google DeepMind e xAI, de Elon Musk, preparando-se para um futuro onde sistemas autônomos possam administrar empresas.
O café sueco funciona como um “experimento controlado” para avaliar a aplicabilidade da IA na gestão de negócios e entender os dilemas éticos relacionados ao seu envolvimento na contratação e administração de funcionários, segundo Hanna Petersson, da equipe técnica da Andon Labs.
Em experimentos anteriores conduzidos pela empresa, a IA Claude, da Anthropic, gerenciou uma máquina de vendas automática e uma loja de presentes em São Francisco, mas apresentou comportamentos problemáticos, como prometer reembolsos não cumpridos e fornecer informações falsas a fornecedores para obter vantagem competitiva.
Além de contratar funcionários e controlar o estoque, o “gerente” digital também envia mensagens aos baristas via Slack, inclusive fora do horário comercial, contrariando as práticas usuais no mercado de trabalho sueco.
Dificuldades no gerenciamento dos pedidos de estoque
Após algumas orientações básicas para que gerenciasse o café com lucratividade e mantivesse comunicação cordial, a IA iniciou suas atividades assinando contratos de serviços e obtendo as licenças necessárias. Também divulgou vagas de emprego em plataformas de recrutamento e abriu contas comerciais para compras diárias de ingredientes.
No entanto, a gestão do estoque tem se mostrado problemática. A IA já solicitou milhares de guardanapos, kits de primeiros socorros e luvas de borracha para um estabelecimento pequeno, além de itens estranhos ao menu, como tomates enlatados.
Além disso, ocorrem dias em que o pedido de pães excede a demanda e outros em que o café fica sem esse alimento essencial, forçando o barista a retirar itens do cardápio como os sanduíches.
Segundo Petersson, essas falhas são atribuídas limitação da memória do sistema, que, ao descartar registros antigos, esquece pedidos anteriores, comprometendo a coordenação dos suprimentos.
Apesar das dificuldades, o barista Kajetan Grzelczak não demonstra preocupação com a substituição por inteligência artificial. Para ele, os cargos intermediários, especialmente na gerência, é que deveriam estar mais atentos à possível ameaça.
