In mei 2016 kondigde Google zijn Tensor Processing Unit (tensorverwerkingseenheid) of TPU aan, een toepassingsspecifiek geïntegreerd circuit (ASIC) dat speciaal is gebouwd voor machine learning en is afgestemd op TensorFlow. Een TPU is een programmeerbare AI-accelerator die is ontworpen om een hoge doorvoer van lage-precisie berekeningen te bieden, en is gericht op het gebruiken of uitvoeren van modellen en niet op het trainen ervan. Google kondigde aan dat ze al meer dan een jaar TPU's in hun datacenters gebruikten. Hierbij had Google bevonden dat deze systemen een orde van grootte betere prestaties per watt leverden bij machinelearningtoepassingen.