AI Safety Initiative
@ UC Chile

La primera iniciativa estudiantil de Seguridad de la Inteligencia Artificial en Chile.

Postula a AI Safety Fundamentals Expresión General de Interés

A medida que los modelos de inteligencia artificial avanzan en capacidades¹, esperamos que tengan un impacto cada vez más profundo en nuestra sociedad.² Es esencial que este impacto sea positivo, y que las decisiones tomadas por estos sistemas sean transparentes, confiables y responsables ante las personas afectadas por ellos.³

Creemos que reducir los riesgos asociados a modelos avanzados de IA es uno de los desafíos más importantes de nuestro tiempo.⁴ También creemos que es un problema abierto y apasionante⁵, con amplias oportunidades para que más investigadores avancen en este campo.⁶

La misión de AISUC es apoyar a estudiantes a entrar a este campo y a realizar investigaciones sobre este tema.

Expresa interés en participar

Programa AI Safety Fundamentals

El primer programa de Seguridad en IA en Chile.

Basado en el currículum de Richard Ngo de OpenAI e inspirado en los programas en Harvard, Stanford y MIT.

7 semanas de teoría
2 semanas de práctica
+ invitados especiales durante el semestre

Postulaciones hasta el domingo 28 de abril.
Abierto a todos los estudiantes de la UC.

En base al programa creado por

Postular Ver contenidos

Preguntas frecuentes

: IA (o Machine Learning): No, no es necesario. La mayoría del trasfondo necesario en Machine Learning se cubre durante la semana 0 del programa.
Matemáticas: Se recomienda tener algo de familiaridad con álgebra lineal y cálculo. Los cursos de Cálculo I y Álgebra Lineal bastan. De todas formas para cada semana se ofrecen versiones más y menos técnicas de los mismos contenidos.
Programación: No es necesario saber programar, pero personas que quieran hacer proyectos técnicos se pueden beneficiar bastante de tener experiencia equivalente a algo como Introducción a la Programación.
: Las lecturas son en inglés, y las discusiones semanales en español. Se espera que los participantes se sientan cómodos leyendo en inglés. Algunos participantes deciden también escribir los resultados de sus proyectos en inglés, pero esto es opcional.
: El programa dura 11 semanas en total, y se espera que los participantes dediquen alrededor de 2 horas semanales para lecturas y 40 minutos para cada discusión semanal.
Durante la etapa de proyectos, se espera que los participantes dediquen aproximadamente 10-20 horas a lo largo de un mes.
: Los proyectos duran 4 semanas y son de libre elección. Los proyectos pueden ser individuales o grupales y AISF provee algunas sugerencias de proyectos que hacer.
Los proyectos pueden ser investigación, upskilling (como replicar un paper o seguir un tutorial) o incluso postular a otros programas de entrenamiento en AI Safety. Por ejemplo, en el pasado algunos han hechos cosas como construir su propio transformer desde cero o replicar un paper famoso de interpretabilidad.
El único requisito es que los proyectos tengan relación con AI Safety y que tomen al menos 10 horas de dedicación.