Deloitte: új alapokra helyezik az AI-modellek a vállalati IT-stratégiákat
„A legtöbb jelenlegi infrastruktúra az AI előtti korszak elvárásai alapján készült, hiszen nem lehetett előre látni egy olyan technológiát, amely akkor még nem is létezett.”
A generatív AI dinamikus fejlődése felgyorsította az üzleti innovációt, ugyanakkor kritikus IT-infrastruktúra‑problémákat is felszínre hozott. Míg sok szervezet kezdetben felhőszolgáltatásokra támaszkodott az AI‑kísérletek során, az inferencia − azaz a már betanított AI-modellek éles környezetben történő folyamatos és nagy volumenű működtetése − mára olyan terhelést jelent, amely túlmutat a hagyományos számítási stratégiák lehetőségein. A gyakori API‑hívások, a növekvő használati intenzitás és a folyamatosan működő AI‑alkalmazások jelentős, sokszor előre nem látható költségnövekedést okoznak.
A költségnyomás mellett a vállalatoknak adattárolási‑szabályokkal, a válaszadás gyorsaságának követelményeivel, a szellemi tulajdon...