Una carrera armamentista y una bola de demolición

Empresas competidoras como OpenAI han estado trabajando en herramientas equivalentes pero aún no las han puesto a disposición del público. Es una especie de carrera armamentista, ya que se prevé que estas herramientas generen muchos ingresos en unos pocos años si progresan como se espera.

Existe la creencia de que estas herramientas podrían eventualmente automatizar muchas tareas menores en los trabajos de oficina. También podría ser una herramienta útil para los desarrolladores, ya que podría “automatizar tareas repetitivas” y agilizar el laborioso trabajo de control de calidad y optimización.

Esto ha sido durante mucho tiempo parte del mensaje de Anthropic a los inversores: sus herramientas de inteligencia artificial podrían manejar gran parte del trabajo de oficina de manera más eficiente y asequible que los humanos. La prueba pública de la función Uso de la computadora es un paso hacia el logro de este objetivo.

Por supuesto, estamos familiarizados con el debate actual sobre este tipo de herramientas entre “es simplemente una herramienta que facilitará el trabajo de las personas” y “dejará a la gente sin trabajo en todas las industrias como una bola de demolición”; ambas cosas puede suceder hasta cierto punto. Es sólo una cuestión de cuál será la proporción, y esto puede variar según la situación o el sector.

Sin embargo, existen numerosas preocupaciones válidas sobre el despliegue generalizado de esta tecnología. Hay que reconocer que Anthropic intentó anticiparse a algunos de ellos introduciendo salvaguardias desde el principio. La empresa dio algunos ejemplos en su publicación de blog:

Nuestros equipos han desarrollado clasificadores y otros métodos para señalar y mitigar estos tipos de abuso. Dadas las próximas elecciones estadounidenses, estamos en alerta máxima por intentos de uso indebido que podrían percibirse como socavando la confianza pública en los procesos electorales. Si bien el uso de la computadora no es lo suficientemente avanzado ni capaz de operar a una escala que presente mayores riesgos en relación con las capacidades existentes, hemos implementado medidas para monitorear cuándo se le pide a Claude que participe en actividades relacionadas con las elecciones, así como sistemas para eliminar a Claude de las actividades. como generar y publicar contenido en redes sociales, registrar dominios web o interactuar con sitios web gubernamentales.

Es posible que estas salvaguardas no sean perfectas, ya que puede haber formas creativas de evitarlas u otras consecuencias no deseadas o usos indebidos aún por descubrir.

Actualmente, Anthropic está poniendo a disposición Computer Use para realizar pruebas para ver qué problemas surgen y trabajar con los desarrolladores para mejorar sus capacidades y encontrar usos positivos.