Το LFM2.5-2.6B της Liquid AI σχεδιάστηκε για να τροφοδοτεί ικανoύς agents αποκλειστικά on-device, με υποστήριξη για tool calling και πολυβήματες ροές εργασίας. Σύμφωνα με την εταιρεία, το μοντέλο παραμένει αρκετά μικρό και γρήγορο για καθημερινό hardware, από laptops έως phones.
Τι λέει η Liquid AI για το LFM2.5-2.6B;
Η Liquid AI αναφέρει ότι το μοντέλο δίνει τη δυνατότητα στους developers να αναπτύσσουν agents παντού, να κρατούν τα δεδομένα στη συσκευή και να αποφεύγουν το κόστος inference στο cloud.
📖 Διάβασε επίσης
Στο υλικό της παρουσιάζει επίσης τον τρόπο με τον οποίο το μοντέλο χτίστηκε ως αξιόπιστο agentic model για edge devices.
Πώς εκπαιδεύτηκε το μοντέλο;
Το LFM2.5-2.6B είναι pre-trained σε περίπου 34T tokens. Στη μέση της εκπαίδευσης, η Liquid AI αναφέρει ότι επεκτείνει το context window στις 128K θέσεις.
Στη συνέχεια, το post-training μετατρέπει το βασικό μοντέλο σε agent σε τέσσερα στάδια.
- Το Agentic RL pipeline χωρίζει βελτιστοποίηση μοντέλου, inference και εκτέλεση περιβάλλοντος σε ξεχωριστά μέρη.
- Το Training Engine βελτιστοποιεί το μοντέλο.
- Το Rollout Engine παράγει ενέργειες με βάση την τελευταία policy.
- Το RL framework οργανώνει τον βρόχο εκπαίδευσης, συλλέγοντας trajectories και rewards και ενημερώνοντας το μοντέλο.
Οι ενέργειες εκτελούνται μέσα σε Sandbox Service, όπου το Blackbox Harness φιλοξενεί τον agent και συντονίζει τις αλληλεπιδράσεις με το task environment. Το Harness Proxy επιτρέπει τη χρήση agentic harnesses ως black boxes χωρίς τροποποιήσεις, ενώ καταγράφει τα token-level trajectories που χρειάζονται για ανακατασκευή και επιβεβαίωση των RL training samples.
Πού ξεχωρίζει στα benchmarks;
Η Liquid AI λέει ότι το LFM2.5-2.6B συγκρίθηκε με μοντέλα έως και περίπου 4 φορές μεγαλύτερα σε STEM, instruction following, tool use και agentic tasks. Παρότι είναι το μικρότερο μοντέλο της ομάδας, εμφανίζεται ανταγωνιστικό και συχνά καλύτερο από τα υπόλοιπα.
Η εταιρεία ξεχωρίζει ως δυνατά σημεία το instruction following και το tool use. Αναφέρει ότι το μοντέλο βρίσκεται στην κορυφή σε κάθε benchmark instruction-following που παραθέτει και σε κάθε benchmark tool-use, εκτός από το BFCLv4, όπου προηγείται μόνο το Qwen 9.7B.
Στα agentic tasks, σύμφωνα με το υλικό, υπερτερεί των δύο Gemma μοντέλων και ισοβαθμεί με τα Qwen. Επίσης προηγείται στο knowledge και παραμένει κοντά στο math. Στο coding, ωστόσο, τα μεγαλύτερα μοντέλα διατηρούν καθαρό προβάδισμα.
Τι αναφέρει για την ταχύτητα σε CPU και GPU;
Το LFM2.5-2.6B συνοδεύεται από υποστήριξη πρώτης ημέρας σε όλο το inference οικοσύστημα, με αναφορές σε llama.cpp, MLX, vLLM, SGLang και ONNX.
- Σε CPU inference, η Liquid AI το περιγράφει ως το ταχύτερο μοντέλο που δοκίμασε.
- Αναφέρει decode speed 220 tokens/s σε M5 Max.
- Αναφέρει 113 tokens/s σε Ryzen AI Max+ 395.
- Σε 30 tokens/s, λέει ότι επιτρέπει την εκτέλεση ικανών agents ακόμη και σε τηλέφωνο.
Στο GPU inference, η εταιρεία το περιγράφει ως το ταχύτερο μοντέλο στην κατηγορία μεγέθους του, με σχεδόν 15K output tokens ανά δευτερόλεπτο σε υψηλό concurrency και περίπου 1,3 δισ. tokens την ημέρα σε έναν μόνο H100.
Τι κρατά κανείς από την παρουσίαση του μοντέλου;
Το LFM2.5-2.6B προβάλλεται ως ένα μικρότερο μοντέλο που μπορεί να τρέχει on-device, να υποστηρίζει εργαλεία και πολυβήματες εργασίες και να αξιοποιείται σε laptops, phones και edge συσκευές. Η Liquid AI συνδέει την προσέγγιση αυτή με τοπική διατήρηση των δεδομένων και χρήση χωρίς cloud inference bill.
