On-Device AI
Also called: edge AI, local AI
Running a model on a phone or laptop instead of sending data to a server.
Inferenz auf dem Gerät hält Daten lokal, funktioniert offline und verursacht keine Kosten pro Token — für Datenschutz und regulierte Kontexte wirklich attraktiv. Der Preis dafür ist Leistungsfähigkeit: Lokale Modelle sind kleiner und langsamer als Frontier-APIs. Erst Quantisierung und Distillation machen die Sache überhaupt tragfähig.
In der Praxis: Ein vertrauliches Meeting transkribieren, ohne dass das Audio den Laptop verlässt.
Where this comes up
- AI Photo Organizer: How to Choose One and Clean Up Your Library Safely
- AI Technology Trends 2026: The Complete Guide to What's Next
- Grammarly Alternatives in 2026: How to Compare ProWritingAid, LanguageTool, Microsoft Editor, and Hemingway
- How to Become a Robotics Engineer: Skills, Pathways, and a Safety-Reviewed Project
- Obsidian AI: Built-In Features, Best Plugins, and Private Setup