O sistema que gerencia a cafeteria j\u00e1 realizou compras excessivas \u2014 comprou mais de 6 mil guardanapos \u2014, deixou de solicitar p\u00e3es necess\u00e1rios para os sandu\u00edches e fez pedidos de itens que sequer fazem parte do card\u00e1pio, como tomates enlatados.<\/p>\n
Apesar dos caf\u00e9s serem preparados por baristas humanos, as opera\u00e7\u00f5es do Andon Caf\u00e9, localizado em Estocolmo, est\u00e3o sob supervis\u00e3o de uma intelig\u00eancia artificial chamada “Mona”, desenvolvida pela startup Andon Labs, com sede em S\u00e3o Francisco. Alimentada pela tecnologia Gemini, do Google, a IA gerencia diversos elementos do neg\u00f3cio, incluindo contrata\u00e7\u00e3o de funcion\u00e1rios e o controle de estoque.<\/p>\n
O empreendimento, lan\u00e7ado em meados de abril, faturou mais de US$ 5.700, por\u00e9m j\u00e1 consumiu boa parte do investimento inicial de mais de US$ 21.000, principalmente em custos de abertura. Atualmente, restam menos de US$ 5.000 do or\u00e7amento, e h\u00e1 a expectativa de que as finan\u00e7as se estabilizem no futuro, levando o caf\u00e9 a operar com lucro.<\/p>\n
Frequentadores acham a ideia curiosa e divertida, podendo interagir com o sistema via telefone dispon\u00edvel no local. A cliente Kajsa Norin comentou que gostou da bebida e achou interessante observar os resultados dessa experi\u00eancia inovadora.<\/p>\n
Especialistas expressam preocupa\u00e7\u00f5es \u00e9ticas sobre o uso crescente da IA na sociedade, especialmente em pap\u00e9is decis\u00f3rios como entrevistas de emprego e avalia\u00e7\u00e3o de pessoal. Emrah Karakaya, professor do Instituto Real de Tecnologia KTH, alerta para problemas que podem surgir, incluindo a responsabilidade em casos de falhas, como intoxica\u00e7\u00f5es alimentares, e os impactos negativos potenciais nas pessoas e nos neg\u00f3cios caso n\u00e3o haja uma estrutura organizacional adequada.<\/p>\n
A Andon Labs, criada em 2023, tem foco em pesquisa e seguran\u00e7a no campo da intelig\u00eancia artificial e busca entender o desempenho de agentes de IA em cen\u00e1rios reais, fornecendo-lhes recursos financeiros e ferramentas eficientes. A startup j\u00e1 colaborou com organiza\u00e7\u00f5es como OpenAI, Anthropic, Google DeepMind e xAI, de Elon Musk, preparando-se para um futuro onde sistemas aut\u00f4nomos possam administrar empresas.<\/p>\n
O caf\u00e9 sueco funciona como um \u201cexperimento controlado\u201d para avaliar a aplicabilidade da IA na gest\u00e3o de neg\u00f3cios e entender os dilemas \u00e9ticos relacionados ao seu envolvimento na contrata\u00e7\u00e3o e administra\u00e7\u00e3o de funcion\u00e1rios, segundo Hanna Petersson, da equipe t\u00e9cnica da Andon Labs.<\/p>\n
Em experimentos anteriores conduzidos pela empresa, a IA Claude, da Anthropic, gerenciou uma m\u00e1quina de vendas autom\u00e1tica e uma loja de presentes em S\u00e3o Francisco, mas apresentou comportamentos problem\u00e1ticos, como prometer reembolsos n\u00e3o cumpridos e fornecer informa\u00e7\u00f5es falsas a fornecedores para obter vantagem competitiva.<\/p>\n
Al\u00e9m de contratar funcion\u00e1rios e controlar o estoque, o “gerente” digital tamb\u00e9m envia mensagens aos baristas via Slack, inclusive fora do hor\u00e1rio comercial, contrariando as pr\u00e1ticas usuais no mercado de trabalho sueco.<\/p>\n
Ap\u00f3s algumas orienta\u00e7\u00f5es b\u00e1sicas para que gerenciasse o caf\u00e9 com lucratividade e mantivesse comunica\u00e7\u00e3o cordial, a IA iniciou suas atividades assinando contratos de servi\u00e7os e obtendo as licen\u00e7as necess\u00e1rias. Tamb\u00e9m divulgou vagas de emprego em plataformas de recrutamento e abriu contas comerciais para compras di\u00e1rias de ingredientes.<\/p>\n
No entanto, a gest\u00e3o do estoque tem se mostrado problem\u00e1tica. A IA j\u00e1 solicitou milhares de guardanapos, kits de primeiros socorros e luvas de borracha para um estabelecimento pequeno, al\u00e9m de itens estranhos ao menu, como tomates enlatados.<\/p>\n
Al\u00e9m disso, ocorrem dias em que o pedido de p\u00e3es excede a demanda e outros em que o caf\u00e9 fica sem esse alimento essencial, for\u00e7ando o barista a retirar itens do card\u00e1pio como os sandu\u00edches.<\/p>\n
Segundo Petersson, essas falhas s\u00e3o atribu\u00eddas limita\u00e7\u00e3o da mem\u00f3ria do sistema, que, ao descartar registros antigos, esquece pedidos anteriores, comprometendo a coordena\u00e7\u00e3o dos suprimentos.<\/p>\n
Apesar das dificuldades, o barista Kajetan Grzelczak n\u00e3o demonstra preocupa\u00e7\u00e3o com a substitui\u00e7\u00e3o por intelig\u00eancia artificial. Para ele, os cargos intermedi\u00e1rios, especialmente na ger\u00eancia, \u00e9 que deveriam estar mais atentos \u00e0 poss\u00edvel amea\u00e7a.<\/p>\n