KevinSimback

Meta commence à ressembler au plus grand but contre son camp de l'ère de l'IA

Fable est venu et est reparti - était-ce bon ?
GLM 5.2 vient de sortir - est-ce bon ?
La plupart répondront de manière anecdotique, mais nous devrions tous créer nos propres évaluations personnelles
Choisissez quelques flux de travail structurés que vous faites habituellement, construisez un ensemble d'évaluation, puis exécutez-les avec n'importe quel nouveau modèle comme première tâche

Le casse-tête de l'inférence pour le consommateur :
Je vois beaucoup de projets d'inférence orientés consommateur qui tentent de résoudre le coût élevé des API de pointe
Les méthodes varient, mais le principe est de fournir une inférence moins chère par rapport aux agrégateurs comme OpenRouter
Le défi ici concerne le timing
Aujourd'hui, les consommateurs bénéficient d'une IA de pointe fortement subventionnée
Beaucoup d'options pour que les consommateurs obtiennent des plans d'inférence SOTA à partir de 10 $ et les plans à 200 $/mois offrent une quantité incroyable d'utilisation
Il

La priorité numéro 1 pour toute l'industrie de l'IA en ce moment devrait être de faire progresser les modèles open source basés aux États-Unis
Il n'y a aucune raison pour que les États-Unis ne soient pas à égalité avec, ou dépassent, les modèles open source issus de Chine

Il vous reste 12 jours d'accès à Fable via les plans Max, faites en sorte que chaque jour compte :
> passez en revue chaque code existant que vous maintenez
> concrétisez cette idée que vous gardiez en réserve
> mettez à l'épreuve chaque thèse sur laquelle vous vous appuyez
> trouvez l'alpha parmi le bruit
Que allez-vous faire ?

En l'espace de 6 mois, nous sommes passés de :
vibecoders
à ingénieurs agentiques
à concepteurs de boucles
À chaque évolution, consommant de plus en plus de jetons
Long tout ce qui concerne l'inférence

Nous savons tous que l'IA n'a pas encore un goût exceptionnel, du moins dans la plupart des domaines
Donc cette compétence reste entièrement humaine
Mais une autre compétence humaine puissante est d'avoir un bon détecteur de bêtises $shit d'IA - vous devez savoir quand remettre en question la sortie vs la prendre pour acquise

Avis tranché : Anthropic est évalué pour une perfection absolue
> Mythos doit livrer
> les entreprises doivent rester souples dans leurs dépenses de jetons
> l'adoption doit continuer au rythme de janvier-mai pour le reste de l'année
> la puissance de calcul doit être amplifiée
> pas de vents contraires gouvernementaux ou sociétaux
Je ne parie pas contre leur atteinte du $100b rythme de croisière d'ici la fin de l'année, mais ils ne peuvent pas se permettre de glissades

Ce dernier groupe de projets crypto IA est assez différent
Les gens utilisent encore le prix du jeton comme indicateur de la qualité du produit
Mais après avoir approfondi ce groupe de projets, je peux dire que cette relation ne tient pas
L'alpha réside dans l'évaluation approfondie des produits

Ma domaine de prédilection dans l'IA en ce moment consiste à identifier des entreprises qui font l'une des choses suivantes :
> aider à réduire les factures de l'API de frontier lab
> fournir / permettre des alternatives à l'utilisation de frontier lab (les 90 % des tâches qui n'en ont pas besoin)
De la simple maximisation de jetons à l'optimisation du coût des jetons

Utiliser les plans d'abonnement LLM aujourd'hui ressemble à aller à un buffet somptueux à volonté
Cela ne vous coûte rien d'essayer tout, alors vous consommez pour le plaisir
Profitez-en tant que ça dure, la prochaine étape est la diète de jetons, puis viendront les équivalents en jetons des GLP-1, pour que nous consommions moins

C'est un peu hors sujet, mais la retatrutide (petite dose 1x/semaine) + 10-20 g/jour de créatine ressemble à un code de triche
Perdre quelques livres, la force augmente de 10-15 % en 2 mois, et je me sens rafraîchi avec environ une heure de sommeil en moins