Επιστροφή στις στρατηγικές διατριβές
Στρατηγική διατριβή 05
Το AI software γίνεται Token Economy
Η άποψη του euphile είναι ότι το λογισμικό τεχνητής νοημοσύνης περιορίζεται πλέον από την εγγραφή διακριτικών, την αδιαφανή εκτέλεση, την έλλειψη υποδομής και το συνολικό κόστος ιδιοκτησίας. Το διαρκές πλεονέκτημα μετατοπίζεται προς την πρόβλεψη της δαπάνης πριν από την εκτέλεση, την επιλογή υποστηρίξιμων μειγμάτων μοντέλων και τη μετατροπή των επαναλαμβανόμενων συμπερασμάτων σε επαναχρησιμοποιήσιμα περιουσιακά στοιχεία αντί να πληρώνουν για αόρατα απόβλητα ξανά και ξανά.
Το AI software γίνεται Token Economy
Η αδιαφανής εκτέλεση, η αυξανόμενη χρήση συμπερασμάτων και η σπανιότητα χωρητικότητας μετατρέπουν τις δαπάνες τεχνητής νοημοσύνης σε αρχιτεκτονικό περιορισμό, όχι μόνο σε λογαριασμό εργαλείων.
Εκτιμήσεις Moltke πριν από την εκτέλεση. Ο Solon μετρά μετά.
01
Εξελισσόμενο προϊόν
- Άνθρωποι, επανασχεδιασμός, χρέος και επαναγραφές ροής εργασιών.
- Εργαλεία, προσαρμογή πολιτικής και ενεργοποίηση για συγκεκριμένο μοντέλο.
- Διακυβέρνηση, έλεγχος και προσαρμογή μηχανικής.
- Γενικά έξοδα αδειοδότησης και εσωτερικής ευθυγράμμισης.
02
Λειτουργικό
- Συμπεράσματα, υπολογισμός, αποθήκευση και δικτύωση.
- Παρακολούθηση, συνέχεια και επαναληπτική λειτουργία.
- Εξαρτήσεις μοντέλων τρίτων κατασκευαστών και έκθεση χρόνου λειτουργίας.
- Προμήθεια, κλιμάκωση και έλεγχος χρόνου εκτέλεσης.
03
Υποστήριξη
- Γραφείο σέρβις, περιστατικά και διαλογή αστοχιών.
- Κενά επεξήγησης και διαβεβαίωση πελατών.
- Παραγωγή αποδεικτικών στοιχείων για νομικό και λειτουργικό έλεγχο.
- Συντονισμός μεταξύ ομάδων όταν αποτυγχάνουν οι ροές εργασίας AI.
04
Συντήρηση
- Η προτροπή, το πλαίσιο και η συμπεριφορά μετατοπίζονται με την πάροδο του χρόνου.
- Ενημερώσεις ασφάλειας, χρόνου εκτέλεσης και εξάρτησης.
- Έλεγχος παλινδρόμησης, επανεκπαίδευση και επικύρωση.
- Αλλαγές πολιτικής μοντέλου που κυματίζουν σε λειτουργίες.
05
Έξοδος και κυριαρχία
- Μετανάστευση, αρχειοθέτηση, διατήρηση και φορητότητα δεδομένων.
- Κλείδωμα προμηθευτή και έκθεση δικαιοδοσίας.
- Προγραμματισμός δεσμευμένης χωρητικότητας και εξάρτηση από την προμήθεια.
- Αντικατάσταση αδιαφανών συνηθειών με ανθεκτικά εσωτερικά στοιχεία.
TCO
Ο νέος περιορισμός δεν είναι μόνο η νοημοσύνη του μοντέλου.
Είναι αν η εκτέλεση παραμένει ορατή, υποστηρίσιμη, οικονομικά προσιτή και ικανή να εξασφαλίσει την υποδομή από την οποία εξαρτάται.
Τι λέει η διατριβή
Η οικονομία λογισμικού AI γίνεται σχεδιαστικός περιορισμός.
Το επόμενο ανταγωνιστικό πλεονέκτημα δεν προέρχεται από την τυφλή δαπάνη για το πιο ικανό μοντέλο για κάθε εργασία. Προέρχεται από το να γνωρίζουμε πότε πρέπει να χρησιμοποιούμε μοντέλα συνόρων, πότε να ρυθμίζουμε μικρότερα, πότε να επαναχρησιμοποιούμε την υπάρχουσα υποδομή και πώς να διατηρούμε ευανάγνωστο το πλήρες λειτουργικό κόστος.
Η αδιαφάνεια γίνεται ακριβή
Όταν ο σχεδιασμός, η αξιολόγηση και τα μονοπάτια που απορρίφθηκαν παραμένουν αόρατα, οι ομάδες συχνά επαναλαμβάνουν τον ίδιο συλλογισμό εκτός του μοντέλου μόνο και μόνο για να διατηρήσουν τον έλεγχο. Η αόρατη εργασία έχει χαμηλότερη λειτουργική αξία, ωστόσο εξακολουθεί να καταναλώνει tokens, ενέργεια και χρόνο.
Τα tokens είναι πλέον μια αρχιτεκτονική μεταβλητή
Το μέγεθος προτροπής, η ανάπτυξη περιβάλλοντος, οι επαναλήψεις, οι εναλλακτικές αλυσίδες και η επιλογή μοντέλου διαμορφώνουν πλέον την πραγματική δαπάνη. Η χρήση κουπονιού δεν είναι πλέον μια λεπτομέρεια θαμμένη στο API στρώμα. Συμπεριφέρεται σαν υποδομή.
TCO είναι ευρύτερο από το νομοσχέδιο συμπερασμάτων
Η παράδοση τεχνητής νοημοσύνης προσθέτει υποστήριξη, παρακολούθηση, επεξηγησιμότητα, διαχείριση μετατόπισης, αλλαγές πολιτικής και έκθεση μετανάστευσης πέρα από τα ακατέργαστα συμπεράσματα. Το κόστος ιδιοκτησίας κατανέμεται σε ολόκληρο τον κύκλο ζωής.
Η έλλειψη υποδομής είναι ένα πραγματικό ανώτατο όριο
Ακόμη και όταν υπάρχουν διαθέσιμα χρήματα, ο υπολογισμός της προσφοράς, οι κύκλοι κατασκευής κέντρων δεδομένων, η ενέργεια και οι χρόνοι παράδοσης κρατήσεων παραμένουν πεπερασμένοι. Η κλίμακα AI είναι επίσης ένα πρόβλημα κατανομής χωρητικότητας.
Από πού προέρχεται η πίεση
Ο λογαριασμός ανεβαίνει από πολλές κατευθύνσεις ταυτόχρονα.
Η πίεση δεν είναι μόνο ένα πρότυπο φύλλο τιμών. Προέρχεται επίσης από κρυφή εκτέλεση, σπατάλη περιβάλλοντος, εξάρτηση από τον προμηθευτή, γενικά έξοδα κύκλου ζωής και σπανιότητα χωρητικότητας.
Η κρυφή εκτέλεση πληρώνεται επανειλημμένα
Οι ομάδες χρειάζονται συχνά συνοπτικά μεταδεδομένα εκτέλεσης, όχι ακατέργαστη αλυσίδα σκέψης, απλώς για να καταλάβουν τι συνέβη. Χωρίς ορατότητα, το μοντέλο και οι άνθρωποι γύρω του συχνά αντιγράφουν εργασία και καίνε tokens δύο φορές.
API οι συνήθειες μπορούν να χρηματοδοτήσουν την τάφρο κάποιου άλλου
Εάν η επαναλαμβανόμενη χρήση δεν δημιουργεί ανθεκτικό εσωτερικό περιουσιακό στοιχείο, ο αγοραστής συνεχίζει να πληρώνει το μεταβατικό κόστος ενώ ο πάροχος συσσωρεύει την ισχυρότερη στρατηγική θέση. Η δαπάνη συμβολαίων θα πρέπει τελικά να γίνει επαναχρησιμοποιήσιμη μόχλευση.
Οι περισσότερες εφαρμογές εξακολουθούν να σπαταλούν το πλαίσιο
Τα μεγάλα μηνύματα δεν εγγυώνται μεγάλη αξία. Η συμπίεση, το κλάδεμα, η προσωρινή αποθήκευση και η καλύτερη επιλογή περιβάλλοντος μπορούν να αφαιρέσουν το σημαντικό κόστος χωρίς να θυσιάσουν το χρήσιμο μέρος του συστήματος.
TCO συνεχίζει να διευρύνεται με την πάροδο του χρόνου
Το κόστος συνεχίζεται μετά την εκκίνηση μέσω της υποστήριξης, της συντήρησης, της αναφοράς, της ασφάλειας, της διαχείρισης drift, των μετεγγραφών και του λειτουργικού φόρτου της διατήρησης των ροών εργασιών τεχνητής νοημοσύνης ασφαλείς και ευανάγνωστες.
Οι υποστηρίξιμες εναλλακτικές γίνονται στρατηγικές
Τα μικρότερα συντονισμένα μοντέλα ανοιχτού βάρους, η υβριδική εκτέλεση και η υπάρχουσα υποδομή μπορούν να νικήσουν τη γενική συνοριακή χρήση σε εργασίες που αφορούν συγκεκριμένες επιχειρήσεις, όταν το κόστος, η καθυστέρηση, το απόρρητο και ο έλεγχος έχουν μεγαλύτερη σημασία από το ακατέργαστο κύρος αναφοράς.
Η υπολογιστική προσφορά αλλάζει τη συζήτηση για την κυριαρχία
Οι οργανισμοί δεν μπορούν να βασίζονται για πάντα στην υπόθεση ότι αρκετή μεθοριακή χωρητικότητα θα είναι πάντα διαθέσιμη με αποδεκτούς όρους. Η κράτηση χωρητικότητας και η εξάρτηση από τις υποδομές επηρεάζουν πλέον άμεσα τη στρατηγική.
Γιατί ευφιλής
Η ευκαιρία της πλατφόρμας είναι η ορατότητα του κόστους πριν από την εκτέλεση.
Η euphile θέλει να κάνει την παράδοση λογισμικού τεχνητής νοημοσύνης πιο υποστηρικτική προβλέποντας το κατανάλωση tokens με το Moltke, μετρώντας τη λεπτομερή χρήση με το Solon, εκθέτοντας υποθέσεις εκτέλεσης και καθοδηγώντας την εργασία προς τις αρχιτεκτονικές που οι ομάδες μπορούν πραγματικά να χρηματοδοτήσουν, να ελέγξουν και να εξασφαλίσουν χωρητικότητα.
Ο Moltke μοντελοποιεί τον λογαριασμό πριν από τον κωδικό
Υπολογίστε την καύση διακριτικών, το μείγμα μοντέλων και τα πιθανά εύρη κόστους πριν μια ροή εργασίας γίνει εξάρτηση παραγωγής.
Ο Solon μετρά λεπτομερώς την πραγματική χρήση
Παρακολουθήστε την πραγματική χρήση, τα σήματα κόστους και τις λεπτομερείς αναφορές μόλις εκτελεστούν οι ροές εργασίας, έτσι ώστε τα οικονομικά της τεχνητής νοημοσύνης να παραμένουν επιθεωρήσιμα μετά το στάδιο της πρόβλεψης.
Η αρχιτεκτονική θα πρέπει να συγκρίνει τα σύνορα και τα υποστηρίξιμα μονοπάτια
Δεν αξίζει κάθε ροή εργασίας το ίδιο μοντέλο ή το ίδιο προφίλ κόστους. Μια ελεγχόμενη πλατφόρμα θα πρέπει να συγκρίνει ρητά συντονισμένες, τοπικές και συνοριακές διαδρομές.
Τα tokens πρέπει να γίνουν περιουσιακά στοιχεία, όχι μόνο να δαπανηθούν
Η επαναλαμβανόμενη συλλογιστική θα πρέπει να συμπιέζεται σε σχέδια, κρυφές μνήμες, εργαλεία, επικυρωτές, μικροσυντονισμούς και επίσημες διεπαφές που μειώνουν το μελλοντικό κόστος.
Η κυριαρχία περιλαμβάνει πρόσβαση σε υποδομές
Μια σοβαρή πλατφόρμα δεν μπορεί να αγνοήσει την παροχή υπολογισμού, τους χρόνους παράδοσης κράτησης, τους περιορισμούς των κέντρων δεδομένων ή την εξάρτηση από τον προμηθευτή. Ο έλεγχος του κόστους και ο προγραμματισμός χωρητικότητας ανήκουν μαζί.
Στρατηγική επίπτωση
Η άποψη του euphile είναι ότι οι νικητές στο λογισμικό AI δεν θα είναι οι ομάδες που θα καίνε τα περισσότερα tokens. Θα είναι οι ομάδες που θα μπορούν να προβλέψουν το κόστος πριν από την εκτέλεση με τη Moltke, να μετρήσουν την πραγματική χρήση και να αναφέρουν με τη Solon, να μειώσουν την αδιαφάνεια και να στείλουν μέσα στην υποδομή που μπορούν πραγματικά να αντέξουν οικονομικά και να εξασφαλίσουν.