GitHub Copilot tiene un problema de confianza

El progreso que se ha logrado en la tecnología de IA generativa (GenAI) es nada menos que asombroso y, sin embargo, no está exento de defectos. Pero estos defectos no son sorprendentes si se considera que estas redes neuronales artificiales están modeladas a partir de algo igualmente impresionante y defectuoso: la inteligencia humana. Como tal, GenAI es víctima de muchos de los mismos problemas que mantienen a los litigantes con zapatos de golf nuevos. Es decir, una producción deficiente y la posibilidad de infracción de derechos de autor. Ambas cosas pueden hacer que un codificador se sienta menos seguro al usar el código generado por GenAI.

El caso del contexto

GitHub Copilot puede ayudar a reforzar la confianza en el código, tanto en términos de su calidad como en mitigar el riesgo de litigio al citar sus fuentes. Si una herramienta GenAI puede mostrar las fuentes originales del código que está utilizando para generar su resultado, de forma similar a cómo un verificador de plagio en línea enlaza con el contenido fuente original, un desarrollador estaría en una mejor posición para juzgar si ese código proviene de un fuente confiable y amigable, y no un competidor litigioso u organización poco confiable.

A medida que Copilot aprenda cómo producir resultados creativos a partir del gran conjunto de fuentes de lagos de datos y grandes modelos de lenguaje (LLM), y a medida que la materia gris de sus redes neuronales se refine aún más mediante actualizaciones, ella y otras plataformas GenAI sin duda suavizarán el proceso. Las asperezas de sus primeros días y producen una producción creativa cada vez más fluida y original. Al hacerlo, también desdibujarán aún más las líneas entre la infracción de derechos de autor, los hechos y la pura ficción, de forma muy parecida a como lo hacen los humanos.

La creatividad siempre ha sido algo derivada.

Los humanos aprenden a crear imitando a sus familiares, maestros, mentores y compañeros. Habiendo absorbido todo lo que podemos, comenzamos a producir nuestro propio trabajo creativo, que a menudo comienza con intentos derivados de encontrar nuestro propio estilo. Con mucha perseverancia y un poco de talento, nos esforzamos por desarrollarnos en un estilo único que nos diferencia de nuestros pares y nos otorga cierto reconocimiento. Este proceso lo llevan a cabo músicos, escritores, pintores y, sí, desarrolladores de software. Como dice el refrán: «No hay nada nuevo bajo el sol». Pero con un poco de creatividad, podemos darle nuestro propio toque a nuestro trabajo.

En las artes creativas, los actos de infracción de derechos de autor (conscientes o no) ocurren con bastante regularidad. Ha habido innumerables casos de infracción de derechos de autor de alto perfil en la industria musical relacionados con reclamos de plagio de canciones pop (Marvin Gaye contra Robin Thicke y Pharrell Williams; Espíritu contra Led Zeppelin; etc.) y obras de ficción literaria que han tratado de definir lo que está protegido por la ley de derechos de autor. Los casos más atroces pueden ser castigados con acciones legales, especialmente cuando se puede obtener alguna compensación. El hecho de que estos casos lleven tanto tiempo para disputarse dice algo sobre la calidad del trabajo derivado. Si hubiera pruebas muy claras de infracción de derechos de autor, el trabajo de los litigantes sería muy breve. Es en la suavidad de los bordes, en las líneas que distinguen una obra de otra, donde existe la originalidad.

GenAI no está al nivel de creatividad que se requiere para producir un trabajo original y verdaderamente brillante. Y ahí es precisamente donde entran en juego las habilidades del desarrollador.

El camino hacia la confianza humana

GitHub Copilot ya ofrece un filtro de “Sugerencias que coinciden con el código público” que ayuda al usuario a evitar el uso de copias directas de fragmentos de código al verificar el código circundante (dentro de un límite de 150 caracteres). Es una protección contra la copia descarada que puede ayudar a reducir la responsabilidad por plagio. Pero sólo un desarrollador experimentado tiene el criterio necesario para saber cuándo el código propuesto será finalmente utilizable. Entre su dependencia de fuentes deficientes y su propensión a las alucinaciones, no se puede confiar en que GenAI escriba código sin supervisión humana. Sin embargo, su papel como asistente es claramente valioso, especialmente cuando se le formulan las preguntas correctas con la sintaxis adecuada.

El potencial de GitHub Copilot y otras tecnologías GenAI para simplificar el trabajo creativo, desde prosa, poesía y canciones hasta códigos informáticos ejecutables, aumenta cada día. Lo que les falta a estas tecnologías es el criterio para saber cuándo algo es único y de alta calidad. Lo que a estas máquinas les falta de confianza, lo proporcionan al desarrollador conocimientos e ideas generadas rápidamente. Juntos, los humanos y la IA pueden formar un equipo impresionante.


Source link

About David Lopez

Informático y experto en redes. Redactor en varios blogs tecnológicos desde hace 4 años y ahora en Steamachine.net

Check Also

Costo de desarrollo de aplicaciones Fintech: una guía completa

Las tecnologías emergentes como la IA generativa, las API o la cadena de bloques en …

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *