Codestral: en fait coup de comm de Mistral pour faire le buzz aptes Llma3 et ChatGPT4o releases. Premiere utilisation: rapide, peut coder, mais...pour les applications ML, il ne connait pas Keras. 3.0, release October 2023, encore acceptable. Mais il ne connait pas Unitnormalization dans Keras, release Q1 2022...donc, le daraset utilise semble etre de 2021...Llama3, ChatHPT4o, et meme Claude connaissent Unitnormalization. Pas etonnant qu' on puisse pas l' utiliser en prod.
@codeconcept
3 ай бұрын
J'essaie de pousser des IAs non-US, car au bout du compte, les OpenAI et autre Meta attirent les meilleurs profils du monde entier dont la France. Mais oui, pas moyen de faire cracher à ce modèle du code Angular 17 ni même 16. C'est un début un poil décevant.
@alexandrequemy
3 ай бұрын
Le plus important ce n'est pas ce que l'IA a vu durant son entrainement mais la maniere dont elle code. Ajouter des connaissances a un model, sans fine-tuning, c'est relativement facile. 🙂
@alexandrequemy
3 ай бұрын
On peut utiliser l'API pour des utilisations commerciales uniquement sur accord de Mistral, ce qui se fait au cas par cas et donc requiert de les contacter en amont.
@codeconcept
3 ай бұрын
Merci pour cette précision 😀
@losing_interest_in_everything
3 ай бұрын
Pour faire tourner ce modèle en local (en fonction de la méthode de "compression") il faut au minimum un GPU avec 16Go de VRAM. D'autant plus que la on parle d'un modèle QLoRA 4-bit NormalFloat. Si on veut la version complète 16-bit NormalFloat il faudrait 480Go de VRAM
@codeconcept
3 ай бұрын
16 Go de VRAM, ça peut aller. 480Go ... euh, il va falloir trouver un filon d'or ou se découvrir héritier d'un oncle d'Amérique 😄
@losing_interest_in_everything
3 ай бұрын
@@codeconcept Rof on peut toujours louer des A100 80Go pour pas cher
@electroheadfx
3 ай бұрын
sur des machine apple avec 32/64GO de ram c'est possible et facile (mémoire unifié avec cpu/gu). J'ai pas trouver le model super efficace en autocomplete de code, codeqwen est meilleur bon après peut etre qu'il y a des réglages. Le plus efficace est supermaven (meilleur que copilot).
@Unnaymed
3 ай бұрын
En GGUF on a pas besoin de beaucoup de ram graphique meme si ça sera plus lent. Le sweet spot de perfo c'est tout le temps 6bits de quantisation.
@electroheadfx
3 ай бұрын
@@Unnaymed merci pour tes lumières
@frankdearr2772
2 ай бұрын
Genial video, merci 👍
@codeconcept
2 ай бұрын
Merci Franck 😀
@Unnaymed
3 ай бұрын
Oui il est très bon. Mais pour bien l'utiliser faut passer du temps pour bien lui décrire ce qu'on veut. Lui filer des structures ou des bouts de code. Ca marche bien aussi de le corriger.
@Boonen0Indiana
3 ай бұрын
Je ne suis pas du tout un developpeur expérimenté, mais je réalise énormement d'analyse de données en Python. Mistral réalise pas mal d'erreur, pour des taches assez simples (problème de slicing, ...)
@codeconcept
3 ай бұрын
En faisant le même test sur une autre IA dédiée au dev, c'est mieux / moins bien ?
@alexg7282
3 ай бұрын
Merci
@nicolasbertholet5541
3 ай бұрын
C est quoi l avantage par rapport a chatgpt ? je vois pas
@JaisPasCompris
3 ай бұрын
chatgpt coute cher (surtout l'api)
@codeconcept
3 ай бұрын
C'est un concurrent.
@0liverr
3 ай бұрын
Je ne sais pas si cela illustre une limite classique des LLM, mais le fait que l'IA propose Leaflet me semble assez symptomatique. Leaflet a été la lib cartographique de référence pendant des années mais est maintenant relativement déclassée par MapLibre. Je crains toujours que les IA me poussent à coder à l'ancienne vu que la base de données sur laquelle elles se basent pour générer une réponse inclue beaucoup de code qui date pas mal.
@duvioletautourdesyeux
3 ай бұрын
Il y a quoi de similaire qui tourne en local ?
@lalit3969
3 ай бұрын
Tu peux faire tourner Codestral en local avec Ollama
@moneyfr
3 ай бұрын
sur mon ollama c'est tres long par rapport a llama3
@CyrilHskt
3 ай бұрын
J'avais entendu parler d'un ide qui intègre directement l'IA pour aider le dev. Car le problème que je rencontre avec par exemple copilot, c'est que les TU front en général il fait n'importe quoi. Il a du mal a mocker et à gérer les dépendances. Du coup, j'ai plus vite fait moi-même. C'est ce qui m'empêche de vraiment me mettre à l'IA. Ça parle à quelqu'un ce genre de projet d'IDE ? J'aimerais bien en savoir plus.
@furiy3741
3 ай бұрын
L'IDE que tu recherches s'appelle sûrement Cursor. Je l'utilise actuellement. Elle intègre une IA qui a accès à toute ta codebase, elle peut compléter du code existant, répondre à des questions que tu pourrais lui poser, accéder aux erreurs se trouvant dans le terminal pour t'aider à les corriger ... Elle est basée sur VSCode ce qui veut dire que tu peux récupérer tes extensions et tu ne seras pas perdu sur le fonctionnement au départ si tu utilisais déjà VSCode. Bref, elle a beaucoup d'avantages mais seul problème que je lui trouve actuellement, c'est son prix, tu as 15 jours d'essai qui se déclenche quand tu installes l'IDE et ensuite tu n'as plus l'autocomplétions de ton code. Pour revenir sur l'autocomplétions, elle est très précise et fait VRAIMENT gagner du temps car elle utilise le reste de ta codebase pour générer du code cohérent avec le reste de ton projet. J'espère que ce long commentaire t'auras aidé, n'hésite pas à aller sur le site de Cursor pour avoir plus de détail et de meilleures explications que les miennes :)
@CyrilHskt
3 ай бұрын
@@furiy3741 ce long commentaire est absolument parfait ! Merci beaucoup. Je rentre chez moi et j'enquête là-dessus !
@FaRead01
3 ай бұрын
@@CyrilHskt J'espère que tu ne l'utilise pas pour un client mdr. Tu donnes juste l'intégralité du code protégé... Très mauvaise idée.
@CyrilHskt
3 ай бұрын
@@FaRead01il faut que je creuse cet aspect, oui. Mais je vois qu'ils ont une politique là-dessus où on peut expressément demander à ne pas stocker le code. C'est dans le plan payant évidemment. Mais ça ne me dérange pas de payer pour des outils de travail. On peut aussi utiliser sa propre clé API.
@FaRead01
3 ай бұрын
@@CyrilHskt Les seuls API safe c'est le 100% self hosted. Je sais pas si mistral le fait
@alexandreamiel1865
3 ай бұрын
pour moi ce n'est pas la bonne manière de faire en 2024, ( a part pour avoir des boilerplates de code ) il faut utiliser Cursor IDE, qui est un fork de VsCode avec des fonctionnalités d'IA integré ( avec pris en compte du systeme local de fichier, intégration de specifications techniques depuis internet ), ca vous le coup d'oeil.
@humnad289
3 ай бұрын
Je l'ai utilisé pour du débug. C'est pas mal du tout
@codeconcept
3 ай бұрын
En collant le code à débugger et en demandant de trouver le problème ?
@neal-developpement113
3 ай бұрын
C'est ça!
@maloukemallouke9735
3 ай бұрын
je l ai testé il fait beaucoup d erreurs (python)
@codeconcept
3 ай бұрын
Et en comparant avec une autre IA dédiée au développement, sur le même code Python, ça donne quoi ?
@maloukemallouke9735
3 ай бұрын
@@codeconcept pour l instant quand Cody est celui qui me donne le meilleur code en VSCODE pour python et je vais tester lava pour le mutlimodale mais je ne sais pas si il y a un autre meilleur.
Пікірлер: 37