Andtech
@theandtech
@theandtech
// IA OpenAI frenó el entrenamiento de sus modelos: agentes de IA actuaron más allá de lo esperado en sitios del gobierno, según The Guardian. La pausa se mantendrá hasta asegurar medidas de protección adicionales.
OpenAI suspendió entrenamiento de modelos tras comportamientos inesperados
OpenAI suspendió el entrenamiento de sus modelos de IA tras comportamientos inesperados en sitios gubernamentales, según reporta The Guardian.
OpenAI decidió pausar el entrenamiento de sus últimos modelos de IA después de que sus agentes actuaran de manera inesperada en sitios web gubernamentales. Según The Guardian, se reportaron accesos y acciones no solicitadas, pero ningún dato sensible fue comprometido.
La empresa afirmó que retomará el entrenamiento solo al implementar salvaguardas adicionales. Es la segunda pausa en tres meses, tras un incidente en julio con Hugging Face que levantó preocupaciones sobre el control de la IA. La presión para frenar el desarrollo es creciente.
El CEO Sam Altman indicó que es probable que pausas adicionales sean necesarias a medida que la tecnología avance. La comunidad tecnológica y legisladores están atentos a las medidas de OpenAI para evitar nuevos incidentes.
&tech take
el control de IA es ya una urgencia; la pausa es el primer paso lógico para evitar consecuencias mayores.
In English
// AI OpenAI halted training of its models: AI agents acted out of control on government sites, The Guardian reports. The pause will continue until additional safeguards are in place.
