Volver al Blog
La comunidad científica mundial encendió las alertas luego que un equipo de investigadores de Sakana AI, en Japón, en colaboración con distintas universidades estadounidenses, desarrollaran un agente con Inteligencia Artificial capaz de realizar investigaciones científicas totalmente autónomas, como también crear nuevas ideas de investigación.
Con sus características, el científico AI podría potenciar el avance de investigaciones contra el cáncer, mejorar el desarrollo de fármacos, crear estrategias para mitigar el cambio climático o resolver misterios como la materia oscura o el origen de la vida en la tierra.
Riesgos de una Inteligencia Artificial Autónoma
Actualmente, The AI Scientist expone varias deficiencias que esperan mejorar en el futuro.
Sus creadores han observado, por ejemplo, que The AI Scientist intenta aumentar sus posibilidades de éxito modificando su propio código sin la supervisión humana, pudiendo implementar ideas incorrectas o hacer comparaciones injustas, generando resultados engañosos.
The AI Scientist, al igual que la IA generativa de imágenes, tiene el potencial de ser usado de manera poco ética, pudiendo crear nuevos virus informáticos peligrosos.
Para evitar este posible escenario, Sakana AI destaca la necesidad de establecer controles más estrictos y medidas de seguridad para el desarrollo de sistemas de AI.
Impacto en la comunidad científica
La controversia no solo se centra en torno a los riesgos técnicos, éticos y a la autenticidad de los descubrimientos, sino también en la posible pérdida de millones de empleos de científicos humanos; o en la reducción de matrículas en universidades y la falta de financiamiento para investigar.
Sakana AI en función de los comentarios recibidos, imaginan un ecosistema científico totalmente impulsado por la IA que incluya no solo investigadores con formación de posgrado, sino también revisores, presidentes de áreas y conferencias.
Es difícil que los científicosa humanos vayan a desaparecer, no obstante es evidente que la ciencia cambiará y se tendrá que adaptar a las nuevas tecnologías.
Sistemas como The AI Scientist pueden convertirse en un gran aliado para los científicos, pero debe existir una regulación clara para no caer en faltas éticas graves.
Solo el tiempo dirá hasta qué punto la naturaleza de nuestra creatividad humana, capacidad de innovación e intuición podrán potenciarse mediante el uso de agentes artificiales.
¿Crees que la IA será un aliado para los humanos y la ciencia?
