AI Safety Initiative
@ UC Chile

La primera iniciativa estudiantil de Seguridad de la Inteligencia Artificial en Chile.

A medida que los modelos de inteligencia artificial avanzan en capacidades¹, esperamos que tengan un impacto cada vez más profundo en nuestra sociedad.² Es esencial que este impacto sea positivo, y que las decisiones tomadas por estos sistemas sean transparentes, confiables y responsables ante las personas afectadas por ellos.³

Creemos que reducir los riesgos asociados a modelos avanzados de IA es uno de los desafíos más importantes de nuestro tiempo.⁴ También creemos que es un problema abierto y apasionante⁵, con amplias oportunidades para que más investigadores avancen en este campo.⁶

La misión de AISUC es apoyar a estudiantes a entrar a este campo y a realizar investigaciones sobre este tema.

Programa AI Safety Fundamentals

El primer programa de Seguridad en IA en Chile.

8 semanas de teoría
1 proyecto práctico
+ invitados especiales durante el semestre

Postulaciones hasta el viernes 29 de marzo.
Abierto a todos los estudiantes de la UC.

Postular

Contenidos

Cada semana se centra en distintas áreas dentro de la seguridad en inteligencia artificial. Desde la introducción a conceptos básicos de machine learning hasta conceptos avanzados de interpretabilidad de modelos, pasando por temas como técnicas adversariales, gobernanza y supervisión a escala.

Semana 0: Icebreaker

Esta primera semana, vamos a dar una breve introducción al estado actual del campo de la seguridad en IA. Además, vamos a dar un espacio para que los participantes se conozcan entre sí.

Ver más detalles

Preguntas frecuentes

: IA (o Machine Learning): No, no es necesario. Si bien tener algo de conocimiento previo es preferible, el mínimo necesario lo vamos a cubrir durante la semana 1 del programa.
Matemáticas: Se recomienda fuertemente tener algo de familiaridad con álgebra lineal y cálculo. Los cursos Cálculo I y Álgebra Lineal bastan.
Programación: No es necesario saber programar, pero las personas que quieran participar de las hackathones o realizar proyectos técnicos deberían saber Python equivalente a haber pasado el ramo Introducción a la Programación.
: Las lecturas son en inglés, y las discusiones semanales en español. Se espera que los participantes se sientan cómodos leyendo en inglés.
: El programa dura 6 semanas en total, y cada sesión de lectura y discusión semanal dura 2 horas. Adicionalmente, quienes participen en el programa tendrán la oportunidad de participar en hackathones organizadas junto a Apart Sprints. Esto es opcional, pero recomendado.
Una vez finalizado el programa, quienes deseen seguir profundizando en el área podrán recibir mentoría para realizar proyectos de investigación o upskilling.
: Los proyectos son voluntarios y de libre elección. Pueden ser individuales o grupales. A continuación algunas sugerencias de proyectos que hacer.
Los proyectos pueden ser investigación, upskilling (como replicar un paper o seguir un tutorial) o incluso postular a otros programas de entrenamiento en AI Safety. Por ejemplo, en el pasado algunos han hechos cosas como construir su propio transformer desde cero o replicar un paper famoso de interpretabilidad.
El único requisito es que los proyectos tengan relación con AI Safety y que tomen al menos 10 horas de dedicación.

AI Safety Initiative
@ UC Chile

Programa AI Safety Fundamentals

Contenidos

Semana 0: Icebreaker

Semana 1: AI and the years ahead

Semana 2: What is AI Alignment?

Semana 3: Reinforcement Learning from Human (or AI) Feedback

Semana 4: Scalable Oversight

Semana 5: Robustness, unlearning and control

Semana 6: Mechanistic Interpretability

Semana 7: Technical Governance Approaches

Semana 8: Contributing to AI Safety

Preguntas frecuentes