Google Upgrades TPU V9 to Bet on the AI Agent Era. MediaTek Secures Exclusive Orders for the First Time, Will It End Nvidia’s Chip Dominance?

TradingKey - On M o n d a y , J u n e 2 2 , w e l l - k n o w n A p p l e s u p p l y c h a i n a n a l y s t M i n g - C h i K u o p o s t e d t h a t G o o g l e ( G O O G L ) ( G O O G ) w i l l d e v e l o p a n u p g r a d e d v e r s i o n o f t h e v 9 c h i p , p o t e n t i a l l y c o d e - n a m e d " T r i g g e r f i s h , " b a s e d o n t h e T P U v 9 ( c o d e - n a m e d " H u m u f i s h " ) , w i t h M e d i a T e k s e c u r i n g t h e e x c l u s i v e o r d e r . T h e t a r g e t a p p l i c a t i o n s f o r t h i s c h i p a r e A I A g e n t a n d r e i n f o r c e m e n t l e a r n i n g ( R L ) s c e n a r i o s , a n d i t i s e x p e c t e d t o e n t e r t h e v o l u m e p r o d u c t i o n p h a s e i n 2 0 2 8 .

A l t h o u g h t h i s i s n o t t h e i r f i r s t c o l l a b o r a t i o n , i t m a r k s t h e f i r s t t i m e M e d i a T e k h a s e x c l u s i v e l y s e c u r e d a n o r d e r f o r G o o g l e ' s c o r e T P U . P r e v i o u s l y , i n t h e T P U v 7 / v 7 e g e n e r a t i o n s , M e d i a T e k h a d i n t e g r a t e d i n t o G o o g l e ' s e c o s y s t e m , p r i m a r i l y r e s p o n s i b l e f o r s o m e I / O ( i n p u t / o u t p u t ) s o l u t i o n s . T h i s p a r t n e r s h i p w i l l f u r t h e r d e e p e n t h e r e l a t i o n s h i p b e t w e e n t h e t w o c o m p a n i e s .

K u o p o i n t e d o u t t h a t c o m p a r e d t o t h e v 9 - g e n e r a t i o n H u m u f i s h c h i p , t h i s r e v i s e d T P U v 9 c h i p h a s s e v e r a l m a j o r d i f f e r e n c e s . T h e r e v i s e d v 9 c h i p s i g n i f i c a n t l y i n c r e a s e s S R A M ( s t a t i c r a n d o m - a c c e s s m e m o r y ) c a p a c i t y t o 2 t o 3 t i m e s t h a t o f t h e v 9 a n d a d d s a s i m u l a t i o n d i e . A d d i t i o n a l l y , t h e r e v i s e d v 9 c h i p u p g r a d e s t h e H i g h B a n d w i d t h M e m o r y ( H B M ) : w h i l e t h e v 9 u s e s H B M 4 , t h e r e v i s e d v 9 c h i p u s e s t h e m o r e a d v a n c e d H B M 4 E .

T h i s s e r i e s o f u p g r a d e s i s d e s i g n e d t o e n h a n c e t h e i n f e r e n c e c a p a b i l i t i e s o f t h i s v e r s i o n o f t h e c h i p w h i l e m i t i g a t i n g C P U w a l l a n d m e m o r y w a l l i s s u e s . T h e C P U w a l l r e f e r s t o t h e s p e e d a t w h i c h t h e c e n t r a l p r o c e s s i n g u n i t ( C P U ) h a n d l e s t a s k s c h e d u l i n g f a i l i n g t o k e e p p a c e w i t h t h e c o m p u t a t i o n a l e x e c u t i o n s p e e d o f A I a c c e l e r a t i o n c h i p s ( G P U s a n d T P U s ) , w h i c h a l s o d r a g s d o w n o v e r a l l c o m p u t i n g s p e e d .

T h e r e a s o n a l a r g e r S R A M c a p a c i t y i s r e q u i r e d i s t h a t S R A M i s t h e f a s t e s t , l o w e s t - l a t e n c y c a c h e i n s i d e t h e c h i p . E x p a n d i n g i t s c a p a c i t y a l l o w s m o r e o f t h e a c t i v e w o r k i n g s e t s n e e d e d f o r r e i n f o r c e m e n t l e a r n i n g a n d A I A g e n t s t o b e r e t a i n e d l o c a l l y o n t h e T P U . T h i s r e d u c e s d a t a m o v e m e n t c o s t s a n d i m p r o v e s o p e r a t i o n a l e f f i c i e n c y d u r i n g t h e u l t r a - l o w l a t e n c y d e c o d i n g p h a s e , p u s h i n g r e a l - t i m e d e c i s i n n - m a k i n g a n d r e s p o n s e s p e e d s t o t h e l i m i t .

T h e p r i m a r y f u n c t i o n o f t h e n e w l y a d d e d s i m u l a t i o n d i e i s h i g h l y l i k e l y c e n t e r e d o n c o o r d i n a t i o n b e t w e e n r e i n f o r c e m e n t l e a r n i n g a n d A I A g e n t s , a s r e i n f o r c e m e n t l e a r n i n g t y p i c a l l y r e l i e s o n v i r t u a l e n v i r o n m e n t s i m u l a t i o n .

U p g r a d i n g H B M 4 t o t h e f a s t e r H B M 4 E i s a i m e d a t b o o s t i n g m e m o r y b a n d w i d t h a n d f u n d a m e n t a l l y a d d r e s s i n g t h e m e m o r y w a l l i s s u e .

R e g a r d i n g s h i p m e n t s , K u o m a i n t a i n s h i s f o r e c a s t o f 4 m i l l i o n t o 5 m i l l i o n u n i t s f o r H u m u f i s h ' s f u l l l i f e c y c l e . T r i g g e r f i s h i s v i e w e d a s a n i n c r e m e n t a l p r o j e c t , e x p e c t e d t o c o n t r i b u t e a n a d d i t i o n a l 1 m i l l i o n t o 2 m i l l i o n u n i t s i n s h i p m e n t s . I n t e r m s o f p r i c i n g , a s T r i g g e r f i s h ' s u n i t p r i c e i s a p p r o x i m a t e l y 3 0 % h i g h e r t h a n H u m u f i s h ' s , e v e n w i t h r e l a t i v e l y l i m i t e d s h i p m e n t v o l u m e s , t h i s c o l l a b o r a t i o n w i l l m a k e a h i g h e r c o n t r i b u t i o n t o M e d i a T e k ' s r e v e n u e .

C a n G o o g l e ' s T P U v 9 b r e a k N v i d i a ' s m o n o p o l y ?

T h e p r i m a r y c o m p e t i t o r t o G o o g l e ' s s e l f - d e v e l o p e d T P U i s c u r r e n t l y N v i d i a ' s G P U . C o m p a r e d t o t h e l a t t e r , G o o g l e ' s c u r r e n t u p g r a d e o f t h e v 9 c h i p a r c h i t e c t u r e i s e x p e c t e d t o , w i t h N v i d i a ( N V D A ) , a c h i e v e d i f f e r e n t i a t e d c o m p e t i t i o n a n d e v e n a r e l a t i v e l e a d . C u r r e n t l y , N v i d i a ' s G P U s ( s u c h a s B l a c k w e l l ) a r e s t i l l d e s i g n e d b a s e d o n t h e l o g i c o f g e n e r a l - p u r p o s e c o m p u t i n g p o w e r a n d h a v e s h o w n n o a d d i t i o n a l a d v a n t a g e i n p r o c e s s i n g s e q u e n t i a l d e c i s i o n - m a k i n g f o r A I A g e n t s a n d s i m u l a t i n g r e i n f o r c e m e n t l e a r n i n g e n v i r o n m e n t s , s t i l l s u f f e r i n g f r o m C P U w a l l a n d m e m o r y w a l l i s s u e s . T h r o u g h t h i s u p g r a d e , G o o g l e h a s t h e p o t e n t i a l t o e s t a b l i s h a g e n e r a t i o n a l l e a d i n d e d i c a t e d A I A g e n t c h i p s .

I n t e r m s o f t h e e c o s y s t e m , G o o g l e ' s T P U i s t i e d t o i t s o w n G o o g l e C l o u d , e n a b l i n g i t t o p r o v i d e t h e m o s t c o s t - e f f e c t i v e a n d l o w e s t - l a t e n c y c l o u d s e r v i c e s f o r A g e n t a p p l i c a t i o n s .

T h e p a r t n e r s h i p w i l l M e d i a T e k i s e s s e n t i a l l y a n a t t e m p t b y G o o g l e t o r e s t r u c t u r e i t s T P U s u p p l y c h a i n , w h i c h i s e x p e c t e d t o h e l p i t c o p e w i t h f u t u r e c o m p u t i n g p o w e r p r i c e w a r s a n d b u i l d a m o a t t h r o u g h l o w e r m a n u f a c t u r i n g c o s t s a n d h i g h e r p r o d u c t i o n v o l u m e s .