Inteligență Artificială & LLM

Într-o mișcare din ce în ce mai familiară, Apple a început să reducă cheltuielile angajaților săi cu simboluri AI la 200 USD pe zi

Într-o mișcare din ce în ce mai familiară, Apple a început să reducă cheltuielile angajaților săi cu simboluri AI la 200 USD pe zi

Apple dorește ca utilizatorii săi să folosească noul Siri AI tot timpul pe dispozitivele lor. Apple îl vinde ca revenire extraordinară în AI. Dar în spatele ușilor închise, cineva s-a uitat la Excel (sau Numbers, în cazul lui) al cheltuielilor angajaților săi cu inteligența artificială și a început să trimită bugetele zilnice de jetoane pe care echipele Apple le pot folosi pentru a-și îmbunătăți munca.

Această reducere a bugetului simbolic pentru angajații săi nu este doar lucrul Apple. Multe dintre companiile care până în urmă cu doar câteva luni și-au invitat angajații să folosească AI în munca lor, au primit deja au închis robinetul.

Apple foarfece jetoanele

Conform ceea ce a fost publicat de Bloomberg, luna trecută Apple a redus în mod liniștit inginerii de la 20300 USD la o utilizare zilnică la 20300 USD. Acum, compania Ternus studiază să o coboare și mai mult și să o lase la 100 USD pentru anumite echipamente.

În afara ingineriei, unele grupuri de angajați ar merge de la 100 USD în jetoane la 25 USD pe zi. Oricine are nevoie de mai mult poate solicita o excepție și se va studia utilizarea acesteia. Angajații Apple au acces la Claude, ChatGPT și Gemini. Chiar și așa, unor echipe li s-ar fi spus deja să folosească modele mai ieftine sau care funcționează local pe dispozitivul însuși.

Paradoxul Apple: cea mai valoroasă companie din lume nu are niciun interes să investească în febra centrelor de date
Paradoxul Apple: cea mai valoroasă companie din lume nu are niciun interes să investească în febra centrelor de date

Este factura atât de scumpă?

Această reducere a bugetului pentru utilizarea AI în rândul forței de muncă atrage atenția pentru că provine de la compania de tehnologie cu cea mai mare capitalizare de piață. Dacă Apple nu poate plăti pentru bara deschisă de jetoane pentru angajații săi, cine poate?

Conform conturilor sale, compania a cheltuit cu 45.765 milioane de euro în ultimul an fiscal, cu 3% mai mult decât în anul precedent. Apple atribuie această creștere parțial investițiilor în AI. Deci de ce să reducă? Angajații citați de Bloomberg susțin că „puțini lucrători și-au folosit întreaga alocație zilnică de 300 USD”, astfel încât economiile reale ar putea fi minime. Alți angajați și-au exprimat teama că această limitare bugetară ar putea fi preludiul unor noi reduceri sau posibile concedieri, așa cum se întâmplă în alte companii de tehnologie.

.
AI va genera o bogăție fără precedent. Întrebarea pe care toată lumea începe să o pună este cine va rămâne cu ea

Nvidia crede exact contrariul

Jensen Huang a spus clar în podcast All-In. Ar fi foarte îngrijorat dacă un inginer cu un salariu de 500.000 USD ar cheltui mai puțin de 250.000 USD pe jetoane AI. Întrebat dacă Nvidia cheltuiește aproximativ 2 miliarde de dolari pe an pe jetoane pentru inginerii săi, CEO-ul a răspuns: „Încercăm.”

Declarațiile lui Huang au logica lor. Nvidia vinde cipurile pe care rulează acele modele, așa că fiecare token ars reprezintă puțin mai multă investiție în putere de calcul și mai multe vânzări pentru cipurile sale. În Cupertino, care plătește doar factura, mesajul este foarte diferit.

Apple nu este primul

Încetinirea fenomenului cunoscut sub numele de tokenmaxxing-tiene-su-primer-absurdo-algunos-employees-amazon-usan-ia-solo-para-inflar-sus-metricas-tokens">tokenmaxxing vine cu luni în urmă. În Meta a existat o cursă internă pentru că a fost cel care a cheltuit cele mai multe jetoane. Pe Amazon au închis un clasament similar în mai. Ulterior, memorandumul recomandă împotriva tokenmaxxing-ului, dar compania spune că nu a stabilit limite.

La Microsoft, un singur angajat ars într-o lună de 28 USD. Microsoft a reacționat. Vicepreședintele său, Jay Parikh, a scris în un e-mail intern la care 404 Media avea acces că „tokenmaxxing nu este ceea ce optimizăm”.

Revolut schimbă modelul

Cu token bills în centrul atenției, unele companii caută o altă cale de ieșire. Revolut a pus în mod implicit despre 2, 000 de motoare a programului href="https://www.Serviciul Secret de Inteligență.com/robotica-e-ia/startup-china-ia-que-lanzo-sorprendente-modelo-glm-5-2-acaba-alcanzar-otro-hito-crear-su-own-centro-data">GLM, un model chinezesc al pesos deschisi. Parametrii săi sunt publici și pot fi rulați pe propriile servere, ceea ce ajută la reducerea considerabilă a costului în jetoane.

Șeful infrastructurii Revolut, David Abitbol, ​​​​a spus că plătesc o zecime din ceea ce costă modelele de frontieră. În plus, factura este fixă ​​și nu crește cu fiecare solicitare. Înainte, cei 300 USD pe lună per inginer pentru Claude Code nu durau toată luna, acum limita de interogare este definită de propriile servere.

În investigația noastră tehnică | De la „tokenmaxxing” am trecut la „tokenwasting”: nivelul de deșeuri în AI atinge cote fără precedent

Imagine | Unsplash (wang binghua)

Partajează acest dosar: