Muchísimas gracias. Funciona! Mira que me he mirado cantidad de tutoriales de este tipo... ninguno funcionaba o no era local, necesitabas internet... Muchas gracias por compartir tu conocimiento. Eso sí... a la hora de hacer el RAG de un dcumento se queda la info guarada, incluso después de haber finalizado la ejecución del programa... Yo lo he solucionado del siguiente modo: Cada vez que termino la sesión, borro todos los archivos de las carpetas _pycache_ y chroma_db_dir... No sé si hago lo correcto, pero el caso es que funciona.
@alarcon7a
13 күн бұрын
Si borras el chroma tienes que volver a hacer embedings, la idea es que siempre persistan
@thecarlostheory
10 күн бұрын
@@alarcon7a pero no tendría sentido borrarlos si el archivo pdf es distinto al anterior?
@alarcon7a
10 күн бұрын
@@thecarlostheory si no los vas a requerir más, si, los puedes borrar
@peladocontrenzas1061
Ай бұрын
*Excelente el trabajo que estás haciendo Carlos.* Se nota el alto conocimiento que tenés. Aprovecho para hacerte algunas preguntas. Estuve mirando tu playlist pero no encontré una guía para comenzar desde cero con esto, porque me interesa el tema. - Podrías decirme los videos de tu canal aconsejables para comenzar? - Para este proyectos es necesario tener GPU o con CPU también se podría hacer (no importa que demore)? - Y esto tiene que ver con la pregunta anterior, instalar este proyecto en un VPS normal, sin GPU, sería factible. *Felicitaciones nuevamente por el gran trabajo de docencia que estás haciendo.* Nuevo suscriptor. Saludos.
@alarcon7a
29 күн бұрын
Muchas gracias !!! Espero poder sacar un curso completo pronto, con CPU este proyecto es posible🚀
@juandavidfrancofranco641
3 ай бұрын
Fascinante, hace meses había pensado que en algun momento iba aparecer algo así. Gracias totales.
@alarcon7a
3 ай бұрын
El futuro es ahora hehe .. no olvides compartir
@guus7893
3 ай бұрын
Excelente Carlos! Además de especializarte en estas habilidades explicas muy bien!
@alarcon7a
3 ай бұрын
Muchas gracias !!!
@javaboy6581
3 ай бұрын
Qué bueno Carlos, cumpliste y sacaste el vídeo! Estoy deseando probarlo. Bendiciones y existos asegurados para tu canal
@alarcon7a
3 ай бұрын
Muchas gracias, 🚀
@gustavoadolfolirasalazar580
Ай бұрын
mucha gracias por el tutorial buenísimo.
@alarcon7a
Ай бұрын
Que bueno que te sea útil
@Hector.Pulido
Ай бұрын
Me sirvió perfecto, solo le hice un par de cambios y ya lo tuve en prod en 2 dias 💪
@alarcon7a
Ай бұрын
Esoooo 🔥🔥🔥
@gustavomarquez2269
3 ай бұрын
Mucha gracias, muy valiosa informacion !
@alarcon7a
3 ай бұрын
Gracias por el apoyo
@ggmtddbo
Ай бұрын
Gracias!
@alarcon7a
Ай бұрын
Un gusto
@roberth.mendoza
3 ай бұрын
Excelente video y gracias por compartir con la comunidad. Muchos exitos!!!
@alarcon7a
3 ай бұрын
Siempre un gusto, muchas gracias
@nahuelzubiarrain7530
3 ай бұрын
Muchas gracias! Muy buen video y muy útil. Sos un grande Carlos 🙌🏼
@Vic_op
3 ай бұрын
Muy bueno Carlos. Muchas gracias.
@Pekarnick
2 ай бұрын
Excelente explicación detallada, 24 minutos que bien valen la pena. Muchísimas gracias!!! Sería muy complicado agregar grado para que sea utilizado desde un servidor central, en digamos una empresa, a fin de ser utilizado por varias terminales?
@alarcon7a
2 ай бұрын
Muchas gracias … El servidor debe tener habilitado el puerto de salida y solo con eso ya es el mismo proceso 🔥
@danielmora3003
3 ай бұрын
Que genial este tipo de Videos ! 🤗
@alarcon7a
3 ай бұрын
Espero les puedan sacar provecho
@EnzoFrancisco-gf5zg
3 ай бұрын
Pucha eres genial.
@alarcon7a
3 ай бұрын
Muchísimas gracias por el apoyo
@thinayushiko9049
3 ай бұрын
Gran video! gracias. Ahora en mi trabajo esta empezando a sonar mucho este tema de LLM, estoy aprendiendo para poder entrar a ese proyecto, pero en este caso hablan de bases de datos de grafos, especificamente neo4J, todos los videos y cursos q he visto han sido con bases de datos vectoriales, archivos txt y pdf, asi que estoy algo perdida de como esto seria hablando de bases de datos de grafos. Por favor si puedes hacer videos sobre esto seria lo maximo! Gracias.
@alarcon7a
3 ай бұрын
Si los hay, buena idea, haré un tutorial de ello 👌
@giocrisrai42
3 ай бұрын
Excelente muchas gracias por compartir este tipo de contenido
@alarcon7a
3 ай бұрын
Siempre un gusto
@gonzaloosuna
3 ай бұрын
Carlos sugiero hacer un video sobre las caracteristicas recomendadas de una computadora para desarrollar este tipo de aplicaciones. Gracias por tus aportaciones.
@alarcon7a
3 ай бұрын
Tienes razon, hay que resolver muchas dudas con ese tema
@EveFelizzola
3 ай бұрын
De acuerdo!
@Alejandro_Rosa
14 күн бұрын
Hola profe 🙏🏻
@alarcon7a
14 күн бұрын
Hello !!!
@vitinett
3 ай бұрын
Muy buen video, lo hubieras podido hacer con llamaindex?? Que diferencias tiene usar llamaindex o langchain
@alarcon7a
3 ай бұрын
Llama index está más dirigido a rag, y si pide hacerlo con llama index también
@gerardoesquivia
3 ай бұрын
Muchas gracias
@felp070
3 ай бұрын
Muchas gracias, buen video nuevo sub me sirve esto para mi proyecto
@alarcon7a
3 ай бұрын
Genial !!! 🚀
@eduardogamarra9070
3 ай бұрын
muy bueno, y eso lo podrias conectar a un chatbot para que lo puedan usar otras personas?
@alarcon7a
3 ай бұрын
Podrías dejarlo en algún servicio cloud y acceder como una API rest
@felp070
3 ай бұрын
Puedes hacer un tutorial sobre schema Json y function calling
@alarcon7a
3 ай бұрын
Seguro 🚀
@JuankM1050
3 ай бұрын
Perdon mi ignorancia pero esto esta corriendo totalmente de forma local ? Recuerdo ver video sobre como crear los embeddings y almacenarlos por ejemplo pinecone y todo eso tenia un costo en plata y computacional. o hay que tener un pc de la nasa para hacer tales cosas. ?
@alarcon7a
3 ай бұрын
En este punto los embedddings quedan almacenados en local en el ditectirio de Chroma, no hay que tener tan buena maquina para ello
@pabloartero1155
3 ай бұрын
Qué hardware necesito para hacer esto?
@alarcon7a
3 ай бұрын
Con una tarjeta de 6GB de video corre bien … con otro hardware menor corre bien pero tarda un poco
@guus7893
3 ай бұрын
@@alarcon7a sería interesante conocer el hardware para el modelo de llama3 70b de parametros, lo soportará una placa de 8GB? o tal vez se necesitan 2 o 3? Por lo que he investigado llama3 8b seria el equivalente a gpt-3.5-turbo y llama3 70b el equivalente a gpt-4-turbo y ahí está la "papa", poder tener un modelo con la capacidad de gpt-4-turbo de forma gratuita (asumiendo el costo de mantenimiento de hardware) ya que lo he probado con un contrato de 8 paginas y 20 preguntas y ha consumido 3 dolares, mientras que el mismo experimento pero con gpt-3.5-turbo consumio 8 centavos de dolar (todo utilizando la API de OpenAI). La diferencia en las respuestas es notable entre un modelo y otro, vale la pena pero es muy costoso, por eso seria interesante conocer el hardware requerido para llama3 70b de parametros.
@cristiancamilogomezgalvis2070
2 ай бұрын
Recomendación, el volumen de la voz esta un poco baja.
@alarcon7a
2 ай бұрын
Muchas gracias, busco corregirlo 👍
@cosmicfissure924
3 ай бұрын
Hable de Chat whit RTX
@alarcon7a
3 ай бұрын
Interesante!!
@Pablo-Ramirez
3 ай бұрын
Hola muchas gracias por tu video. Intente replicar tu Código en Colab pero me da un error, que permisos tengo que tener para poder ejecutar desde mi local: ConnectionRefusedError: [Errno 111] Connection refused The above exception was the direct cause of the following exception: NewConnectionError Traceback (most recent call last) NewConnectionError: : Failed to establish a new connection: [Errno 111] Connection refused
@alarcon7a
3 ай бұрын
Antes tienes que descargar y subir el servicio de Ollama, acá te enseño cómo kzitem.info/news/bejne/xKqeua16f4F6lJwsi=13a6J4cLw4b8kT7b
@Pablo-Ramirez
3 ай бұрын
@@alarcon7a Hola gracias por tu respuesta, si ya tengo corriendo Ollama locamente y al llamar al puerto indica que esta activa . El problema es con Google Colab que no ve el sitio local. Seguí las instrucciones de Colaboración y no hay caso
@alarcon7a
3 ай бұрын
@@Pablo-Ramirez ohhh si, para esto hay que correrlo en local y no desde un servicio cloud cómo Google colab
@Pablo-Ramirez
3 ай бұрын
@@alarcon7a sabes te agradezco mucho tus respuestas. En ese caso puedo puedo ejecutar el local_rag.ipynb desde un Visual Studio Code? Que requisitos requiero. Me interesa mucho este tema. Por eso te molesto tanto. Gracias.
@alarcon7a
3 ай бұрын
@@Pablo-Ramirez si, con una gráfica de 4 GB funciona
@creed4788
3 ай бұрын
¿Esto sirve para windows?
@alarcon7a
3 ай бұрын
Si, en verdad solo hace falta Python y Ollama en Windows que lo explique en un video anterior
@jjen9595
3 ай бұрын
Una pregunta, esto funciona con imagenes? Por ejemplo subes un pdf de perros, y le pregunto, que tipo de perro son pequeños, entonces el llm me responde con un texto y una imagen indicando el perro, claro, la informacion esta en el pdf. Lo pregunto antes que te vallas jaja
@alarcon7a
3 ай бұрын
El ejemplo que hice solo analiza el texto, pero es posible hacer una extracción de la descripción de la imagen con IA
@jjen9595
3 ай бұрын
@@alarcon7ammmm sí, es para un trabajo, pero lo veo un poco complicado, mejor empiezo por tu vídeo y de ahí veo jaja, encontré un vídeo de lo que quiero, pero está en inglés y es como es indio no funciona bien la tradición y peor aún yo que no se mucho, mejor empiezo por abajo xd
Пікірлер: 74