apolloresearch.ai

Так если посмотреть, можно решить что этот канал превратился в весёлые репосты моей работы и друзей, но на самом деле я затрахалась за это время с подачей на визу, параллельно работая и дописывая до воркшопов свои статьи, да и вообще с тем, как организовать свою жизнь на ближайшее лето. Теперь рассказываю по порядку. Ебалась с визой J-1 в США, чтобы уехать в Беркли на лето. Там главный хаб MATS . Меня асептнули этим летом проходить стажку под менторством CEO Apollo Research . Поэтому очень хотелось проходить ее именно в SF. Спойлер: никакую J-1 мне не дали, и я еду в Лондонский хаб дай бог. С учётом того что у меня есть действующая B1/B2), тут мог бы быть очень слёзный рассказ про дискриминацию русских паспортов, но я оставлю его написание только по реквесту в комментах ). Стрим, который я выбрала, занимается black-box мониторингом для детекции схеминга в агентах. Scheming – это когда модель стратегически ведёт себя хорошо во время оценки, чтобы потом в реальных условиях делать что-то другое. Детектировать такое без доступа к весам сложно, особенно если хочешь держать монитор маленьким и шустрым. Этим летом я буду обучать модель-атакующую, которая пытается обойти детектор и итеративно улучшать пайплайн на слабых кейсах, которые монитор не поймал в первой итерации. Теперь про саму программу, если вдруг не слышали. MATS fellowship – программа по AI alignment, последнее время сместившаяся в AI safety. Мой будет уже 10-м потоком, программа проходит дважды в год. Есть несколько десятков стримов, в каждый берут около 4 человек, и у каждого свой ментор из топовых контор: Google DeepMind, OpenAI, Anthropic, Redwood и другие. Цель – публикация статьи на A* конференции по теме стрима. Я подавалась на подобные программы с января 2025 года и на MATS прошла только со второй попытки 🙂 . Поэтому рассказываю как устроен отбор: 1. Заявка с мотивационными письмами. Думала будет быстрее, но даже с LLM это занимает часа два. 2. Тестовое на код с прокторингом. За полтора года я про