Me cag* en la Inteligencia Artificial pero me rindo a ella

[juanvvc]

Quizá mi entorno sea muy técnico, pero no conozco a nadie que no esté pagando por la IA desde hace un año y no es tan raro pagar varias subscripciones.

Yo tengo una subscripción para cosas laborales (que me pagan) y otra para personales (que pago yo) y no soy en el único en mi entorno. Algunos pagan más subscripciones aún.

Yo sigo pensando que en el futuro inmediato tendremos tres clases sociales: los que no pueden pagar IA, los que pueden pagar planes limitados (subscripciones) y los que pueden pagar la barra libre

[fosfy45]

Evidentemente tu entorno es más técnico que el mío.

[Drumpi]

Bueno, hay otra clase entre los que pagan subscripciones y la barra libre... que no sé si existe la "barra libre" de tokens, porque no he mirado los planes, pero en medio están los que pueden pagar por tokens, ya sean unos pocos o muchos. Los que van por subscripciones, en algún punto también se tienen que quedar parados (aunque creo que pueden comprar tokens adicionales), mientras que los que van por tokens no se paran, pero su factura es como la de electricidad: pagan según el consumo.
No sé, que alguien me lo aclare un poco.

Yo llevo tiempo dándole vueltas a si me compensaría pagar una suscripción, teniendo en cuenta que la usaría exclusivamente dos días a la semana, porque de lunes a viernes me sobra con la versión gratuita (privacidad aparte).
Obviamente en el trabajo no, ahí si vamos con suscripción.

[swapd0]

Hace unas semanas lei un post en linkedIn de un tío que decía: estamos a lunes y me he quedado sin tokens hasta el miércoles, no puedo trabajar. Yo me quedé en plan WTF!!!1!

[Drumpi]

¿Y dónde está lo raro? Si ahora el trabajo lo hace la IA, sólo lo entiende la IA. En cuanto desaparece, no hay nadie capaz de entenderlo y corregirlo o continuarlo, sin que le cueste el doble de lo que le costaría de haber sido el desarrollador.
Hay dos problemas: la gente que le deja todo el trabajo a la IA, y los jefes que obligan a sus trabajadores a que le dejen todo el trabajo a la IA. Los primeros no tienen excusa, pero los segundos, pueden poner la excusa y tres posibles soluciones:
- Pedirle más tokens a su jefe.
- Trabajar "a la antigua", es decir, arremangarse y hacer los cambios a mano.
- Decirle al jefe que no tiene tokens e irse a casa porque no puede trabajar

Por cierto: Linus Torvalds es un p*** genio. De mayor quiero ser como él
https://www.youtube.com/shorts/tuPs2f0llOo

-----Actualizado-----

¿Y dónde está lo raro? Si ahora el trabajo lo hace la IA, sólo lo entiende la IA. En cuanto desaparece, no hay nadie capaz de entenderlo y corregirlo o continuarlo, sin que le cueste el doble de lo que le costaría de haber sido el desarrollador.
Hay dos problemas: la gente que le deja todo el trabajo a la IA, y los jefes que obligan a sus trabajadores a que le dejen todo el trabajo a la IA. Los primeros no tienen excusa, pero los segundos, pueden poner la excusa y tres posibles soluciones:
- Pedirle más tokens a su jefe.
- Trabajar "a la antigua", es decir, arremangarse y hacer los cambios a mano.
- Decirle al jefe que no tiene tokens e irse a casa porque no puede trabajar

Por cierto: Linus Torvalds es un p*** genio. De mayor quiero ser como él
https://www.youtube.com/shorts/tuPs2f0llOo

[juanvvc]

Los que van por subscripciones, en algún punto también se tienen que quedar parados (aunque creo que pueden comprar tokens adicionales), mientras que los que van por tokens no se paran, pero su factura es como la de electricidad: pagan según el consumo.

Es así, sí: la subscripción te permite un número de tokens máximo en un periodo de tiempo (por ejemplo, cada 4 horas). Si los gastas... pues te esperas a que pase el periodo. Las cosas se complican un poco porque suele haber dos límites: cada 4 horas y otro a la semana.

También puedes pagar simplemente por los tokens que consumas, que es "la barra libre". Puedes poner un límite máximo de gasto porque esto suele ser "prepago": compro tantos tokens y no más. Esto es lo que se llama "pagar por uso de API". Y puedes pasar a pago por uso de API cuando llegas al límite de la subscripción, si quieres.

En cuanto a qué conviene más, si (pre)pago por API api o subscripción

La subscripción de Claude son 20 euros al mes. Si apurases el límite de tokens de tu susbcripción, siempre, todos los días, y lo comparas con lo que te hubiese costado esos mismos tokens por "uso de API"... te hubiesen costado 2500 euros: https://www.reddit.com/r/ClaudeAI/co...which_is_more/ Es decir, pagar por una subscripción que uses al máximo te permite ahorrar un 99%.

Pero las empresas de IA ya asumen que la gente que paga subscripción no van a estar siempre usando el máximo de tokens y los que usan poco una subscripción "pagan la fiesta" de los que se acercan más al límite. Pasa lo mismo con las empresas de comunicaciones, que asumen que no todos los usuarios que contratan una línea de datos van a estar constantemente descargando al máximo de la línea.

En mi experiencia el límite de la subscripción es amplio, suficiente para hacer muchas cosas, pero es fácil despistarse y llegar al límite. Para cosas personales, bueno, pues toca descansar un par de horas. Para cosas de trabajo es más difícil hacer ese descanso así que los trabajos suelen pagar por API.

De todas formas, hay cosas que sí o sí se tienen que pagar a través "uso de API" y no puedes hacerlas por subscripción. Por ejemplo en Claude el uso de los modelos más potentes, o ciertos usos en ciberseguridad solo se pueden pagar "por uso de API" y no están incluidos en la subscripción.

En cuanto a cómo gastar menos tokens

Como la factura por uso de tokens puede acabar siendo muy cara, gran parte del desarrollo actual consiste en definir estrategias para gastar menos tokens:

- controlar constantemente cuántos tokens estás usando e ir limpiando el contexto periódicamente y consolidando el desarrollo en los archivos .md que use tu harness para que no esté todo en memoria: https://claudefa.st/blog/guide/mecha...ext-management
- Jerarquizar. Que los modelos más caros sean "los que definen la estrategia del proyecto" mientras que los modelos más baratos (incluso modelos ejecutándose en local) sean los que supervisen los comandos: no quieres gastar tokens caros analizando la salida de un comando bash simple. Como puedes cambiar de un modelo a otro fácilmente, incluso de forma automática, puedes decidir qué modelo ejecutas según de la dificultad y coste de la tarea.
- usar solo inglés: los modelos, skills y harness trabajan internamente en inglés, así que trabajando en inglés ahorras los tokens que se van a usar para la traducción. No serán muchos pero todo ayuda.
- usar inglés cavernícola: why use many token when few do trick? https://github.com/juliusbrussee/caveman Esto es una curiosidad más que una mejora real, creo yo.
- Todo esto junto: https://medium.com/@manavghosh/maste...w-9ce88ca4db39

Aventuro que una parte importante del trabajo futuro para los programadores será la gestión económica del coste del desarrollo mismo con IA. Lo que ahora hacen los jefes, lo tendrán que hacer también los programadores.

[josepzin]

Madresanta lo que se ha convertido la programación (o lo que se está convirtiendo), menos mal que yo ya estoy mirando desde la puerta de salida.

[Drumpi]

El de los ecomonos hizo un vídeo hace no mucho sobre el tema:


Parece ser que los que van con "barra libre" están pagando auténticas fortunas por el uso de la IA por parte de sus empleados, pero claro, es que si no, el negocio no es sostenible (el de la IA, claro).
Nosotros tenemos una suscripción, y lo cierto es que es muy raro que lleguemos a usar todos los tokens diarios. Lo de escribir en inglés, pues mira, algo ahorra, pero por el tiempo que puedes tardar en intentar transmitir con exactitud lo que necesitas, no merece la pena. Es mejor reducir la potencia del modelo, o usar uno más antiguo, y para dudas tontas o alguna consulta así, pues abrir una ventana de ChatGPT gratuita y hacer la consulta.
Si eres un programador responsable, que se lee los cambios y hace las pruebas que debe (y no sólo las básicas), el tiempo que pasa entre consulta y consulta es suficiente para no gastarlos... aunque llevo un par de días que estoy rozando el límite por culpa de un par de problemas que Codex se ha atascado y no puede resolver (sí, lo he intentado yo analizando el problema, pero no hay documentación, y para hacer prueba y error, que lo haga la IA, que tarda menos). De hecho, el lunes gasté uno de los resets que regala Codex, de vez en cuando... Un "reset" es la opción de poner a cero los contadores diarios y semanales de tokens, y te los regalan si detectan algún fallo que te afecte como usuario, si ha habido algún problema, o porque les da la gana, como compensación, aunque la mayoría se me caducan ^^U
Además, a veces, un problema en el que te atascas, a veces, el modelo más tonto lo resuelve 10 veces mejor que el casi más listo.

-----Actualizado-----

El de los ecomonos hizo un vídeo hace no mucho sobre el tema:


Parece ser que los que van con "barra libre" están pagando auténticas fortunas por el uso de la IA por parte de sus empleados, pero claro, es que si no, el negocio no es sostenible (el de la IA, claro).
Nosotros tenemos una suscripción, y lo cierto es que es muy raro que lleguemos a usar todos los tokens diarios. Lo de escribir en inglés, pues mira, algo ahorra, pero por el tiempo que puedes tardar en intentar transmitir con exactitud lo que necesitas, no merece la pena. Es mejor reducir la potencia del modelo, o usar uno más antiguo, y para dudas tontas o alguna consulta así, pues abrir una ventana de ChatGPT gratuita y hacer la consulta.
Si eres un programador responsable, que se lee los cambios y hace las pruebas que debe (y no sólo las básicas), el tiempo que pasa entre consulta y consulta es suficiente para no gastarlos... aunque llevo un par de días que estoy rozando el límite por culpa de un par de problemas que Codex se ha atascado y no puede resolver (sí, lo he intentado yo analizando el problema, pero no hay documentación, y para hacer prueba y error, que lo haga la IA, que tarda menos). De hecho, el lunes gasté uno de los resets que regala Codex, de vez en cuando... Un "reset" es la opción de poner a cero los contadores diarios y semanales de tokens, y te los regalan si detectan algún fallo que te afecte como usuario, si ha habido algún problema, o porque les da la gana, como compensación, aunque la mayoría se me caducan ^^U
Además, a veces, un problema en el que te atascas, a veces, el modelo más tonto lo resuelve 10 veces mejor que el casi más listo.

[fosfy45]

Admito que en determinadas circunstancias profesionales o personales la IA puede ser una herramienta provechosa pero nos están acostumbrando a pagar por no usar el cerebro y al mismo tiempo volviéndonos adictos a ello.

[Drumpi]

Agree. No sólo eso, ya hace años que todos los mensajes terminan con sugerencias para ampliar o especificar la respuesta, para incitarte a gastar más tokens.
Pero me da la impresión de que con el paso del tiempo, los modelos empiezan a modificar cosas por su cuenta, a "olvidarse" de algunas cosas que les pides, o complican las cosas más de la cuenta, con el fin de obligarte a hacer cambios y corregir cosas, y así gastar más tokens. Ya digo que es impresión mía, o puede ser que no sepa escribir prompts (o mis proyectos cada vez son más complejos), pero me sucede cada vez más a menudo.

Ahora estoy atrapado en un bucle con un trozo de código. Hay una parte de la API que uso que no está bien documentada (bueno, ni bien ni mal: no lo está) y me lanza un error que intento solucionar. He intentado decenas de combinaciones a ciegas, y le he pedido ayuda a la IA, que tampoco es capaz de solucionarlo. Llegó un punto que notaba que, usando la IA, me estaba repitiendo, así que le pedí que creara un histórico de pruebas, y que fuera añadiendo las combinaciones que probábamos. Bueno, pues aún así, seguía notando que estaba probando las mismas combinaciones. La mayoría de las veces me decía "lo parece, pero hay un matiz importante, y es que..." que unas veces podía colar y otras me parecía que repetía otra prueba. Lo he dejado hacer muchas veces, y el fichero ha crecido una barbaridad, y se supone que no se ha repetido en ningún caso, pero yo no paro de ver los mismos errores una y otra vez.
O sea, que ni usando las propias herramientas te puedes librar de que la IA tienda a gastar más tokens de los necesarios.

[futu-block]

cierto

[josepzin]

Estoy armando un cartón para edición física de un juego de C64, conversión del DEEP SCAN, arcade de los antiguos.

Usé una foto del lateral de la máquina para aprovechar la ilustración, que tiene su estilo tan característico pero la foto no es muy allá y haz zonas sin dibujo (no es un rectangulo, claro).

Asi que a Gemini le pasé esa foto, diciendole que complete el dibujo en las zonas que faltan, recorté bien el arcade y marqué las zonas a rellenar.

Primer resultado: WOAA!! genial.

Luego de estar un rato trabajando se me ocurre comparar la original con esta nueva, y si, muy fantástica pero ya veo que le agregó pecesitos, algas al fondo, lineas de fondo, palabritas, circulos... que definitivamente no los quiero.
Así que voy paso a paso: subo la imagen > puedes quitar los peces? > subo la imagen > puedes quitar las lineas > subo la imagen > puedes quitar el ancla de abajo > y asi la voy dejando bien como quiero, parecido a la original sin todas las ideas brilli-brilli que tuvo.
EDITO: estoy mirando mas detalles y hay partes que deliró mal con las cosas que le agregó

Lo mismo con el logo, primer resultado: WOOOAA! luego veo que de fondo no era transparente, solo le puso el cuadriculado de telón, asi que fui paso a paso diciendole lo que quería y lo terminé de arreglar en GIMP porque se terminaba liando.

Claramente ayuda muchíisimo, pero hay que guiarlo de la mano.

[fosfy45]

Una pregunta para los que como @juanvvc tenéis conocimientos sobre la IA; ¿qué opinión os merece la IA del navegador Brave para consultas sencillas? Me gusta por que es más directa que la de Chatgpt y no insiste tanto en alargar la conversación pero me gustaría saber que tan fiable es comparada con otras IA y especialmente con Chatgpt, gracias y un saludo.

[fbustamante]

La IA la uso básicamente de dos formas:

-Una respuesta rápida que me importa un pepino si está bien o mal.-
-Una respuesta a la que me importa el resultado y reviso si lo que me ha dicho está bien.

Por lo demás no me fio de ella un pelo.

[juanvvc]

Si la quieres para sustituir al buscador de Internet, cualquiera vale. Si la quieres para sustituir a tu asistente humano personal, entonces pagas.

Imagino que preguntas sencillas serán tipo "cuál es la capital de camerún" o "la tarta de manzana tiene gluten" o "cómo se dice cariño he encogido a los niños en indonesio" o "dame un plan de viaje de dos días en Estrasburgo". Para estas preguntas generales, no personalizadas y sin contexto, bien. Cualquiera te valdría. Hay que revisar la respuesta como dice fbustamante, pero revisar una respuesta que ya tienes suele llevar menos tiempo que encontrar tú mismo una respuesta así que ya cumplen su función.

Si pagamos la IA no es para que responda preguntas sencillas sinó que personalice la respuesta a nuestro problema específico:

- "dame un plan de viaje de dos días en Estrasburgo" a lo mejor querías decir que te haga una agenda de reuniones, restaurantes veganos cerca de la catedral y que tenga en cuenta cuándo llega tu tren y cuándo sale. Para eso necesita acceso a tu correo, acordarse de tus restricciones alimentarias.
- "¿puedes reescribir el módulo de autenticación para que acepte oauth?" necesita conocer todo el código de tu aplicación, dónde tienes los tests unitarios, en qué lenguaje programas.... esto es mucho contexto y tiene que tocar muchas cosas que están relacionadas entre sí, sin romperlas, además de compilar y ejecutar los tests para decidir si lo ha hecho bien o no, y generalizarlo todo porque a sabe tras leer el erchivo "FASES DEL PROYECTO.md" que a continuación le vas pedir que soporte passkey.
- "¿puedes traducir esta novela entera?" no puede ir frase a frase porque habrá inconsistencias, como las que describía josepzin que traducía "ship" como "barco" y no como "nave espacial". Tiene que tener en cuenta también que el personaje X hace dos capítulos se hizo pasar por muerto, o que en realidad es un alien como se verá tres capítulos después, y para eso necesita tener una memoria que incluya la novela entera.

Pagamos la IA por el contexto extra personalizado que podemos meterle: todos los archivos del proyecto en que estamos trabajando, una novela, el correo, manuales en PDF... ese contexto específico para tu problema que solo tienes tú es lo que hemos llamado "tokens" más arriba, que son más o menos las palabras personalizadas solo para ti que tiene en la memoria. Cuantos más tokens, más potencia necesita para poder relacionar todos los tokens entre sí, así que es más cara.

Cuando un contexto se acaba... empiezan las alucinaciones. Aquí también se nota la diferencia entre las caras y las gratuitas: una gratuita alucinará enseguida porque se queda sin contexto, lo sustituye con invenciones y no se dará ni cuenta. Las caras, como tienen más contexto que tú le has dado como real y más potencia para relacionar contextos entre sí, les cuesta muchísimo más llegar a esa "fase alucinatoria"

Si no les das contexto para personalizar un problema, una gratuita o una de pago son similares. A lo mejor la de pago tiene más conocimiento interno y tiene que inventarse menos cosas, pero en la actualidad no importa tantísimo el conocimiento interno. El contexto es lo que importa.

La IA gratuita no tiene apenas contexto ni personalización y además se olvida de lo que le hayas dicho hace 10 minutos. Pero para preguntas generales no personalizadas esto da totalmente igual y cualquiera actual está bien porque todas tienen una base de datos internal generalista lo bastante enorme.