Tarefa Final – Recomendação de Artigos

Descrição da Atividade

\[ \def\argmin{\operatorname*{argmin}} \def\Regret{\operatorname*{Regret}} \def\PRegret{\operatorname*{P-Regret}} \def\WL{\operatorname*{WL}} % \def\T{\mathsf{T}} \def\prob{\mathbb{P}} \def\expect{\mathbb{E}} \def\ones{\mathbf{1}} \def\eps{\varepsilon} \def\ERM{\mathrm{ERM}} \def\DESC{\mathrm{DESC}} \def\VC{\mathrm{VC}} \def\LDim{\mathrm{LDim}} \def\bR{\mathbb{R}} \def\bN{\mathbb{N}} \def\cC{\mathcal{C}} \def\cD{\mathcal{D}} \def\cH{\mathcal{H}} \def\cB{\mathcal{B}} \def\cX{\mathcal{X}} \def\cY{\mathcal{Y}} \def\cV{\mathcal{V}} \]

Nesta última tarefa, você deverá selecionar um artigo científico ou um capítulo de um livro sobre um tópico na área de teoria do aprendizado de máquina para escrever um pequeno resumo e recomendação de leitura. De preferência, vocês devem escolher algo relacionado aos assuntos que vimos durante o curso,¹ mas não é estritamente necessário. Encarem essa como uma ótima oportunidade para sair um pouco da zona de conforto e busquem tópicos que lhes pareçam interessantes, mas que não sejam muito semelhantes às suas áreas de pesquisa tradicionais.

Fiquem à vontade para entrar em contato comigo caso estejam em dúvida se a sua escolha se encaixa na atividade² ou se quiserem recomendações de artigos e/ou capítulos de livros. No caso de pedidos de recomendação, me enviem uma pequena descrição dos seus interesses e dos tópicos pelos quais você mais se interessou durante o curso.

Sua tarefa então será escrever um pequeno texto do artigo/capítulo cobrindo os seguintes pontos:

• Resumo. Sucintamente resuma o artigo ou capítulo em suas palavras. Escreva tendo como público-alvo seus colegas de sala, então busque escrever um resumo que seja o mais compreensível que você conseguir para pessoas que tenham conhecimento dos tópicos que vimos em sala de aula e certa maturidade matemática. Busque descrever os principais resultados demonstrados/cobertos, assim como (se cabível) as principais ideias técnicas descritas que merecem destaque.
• Opinião Pessoal. Descreva o que você achou do artigo ou capítulo que você leu. Busque aqui descrever sua impressão sobre a relevância dos resultados ou técnicas para a área, assim como impressões pessoais sobre o que você achou mais ou menos interessante. Vale descrever também se a leitura foi notavelmente fácil ou difícil, seja por questões relacionadas à exposição, pela densidade do material lido, ou por fatores relacionados a conhecimento prévio necessário para a leitura do material.
• Recomendação de Leitura. Finalmente, termine descrevendo o perfil de interesses das pessoas para as quais você recomendaria a leitura desse artigo ou capítulo.

Em outras palavras, vocês farão uma versão mais informal de uma revisão de pares. A grande diferença é que o objetivo, ao invés de ajudar na decisão sobre um artigo enviado para uma revista ou conferência, é ajudar seus colegas do curso a decidirem se o material que vocês leram seria de interesse para eles.

Entrega e Publicação

O seu texto deverá ser entregue em um arquivo usando formatação Markdown até o dia 10~ de abril. Após a entrega, deixarei os resumos disponíveis para que todos os colegas de sala possam lê-los. Caso você prefira que seu texto não fique disponível na página final de resumos (ou que fique disponível sem identificar você como autor), sinta-se à vontade para me enviar um e-mail a qualquer momento me avisando da sua preferência.

Sugestões de Conferências, Revistas, e Livros

Para ajudar na sua busca, aqui estão as principais fontes de literatura na área. Lembre-se que você não precisa ler o artigo inteiro de capa a capa para decidir se ele é interessante; muitas vezes, o Abstract e a Introdução já permitem entender o “sabor” do artigo. Além disso, as principais fontes são conferências e não revistas por um fator cultural em ciência da computação, onde publica-se primeiro em conferências para depois (e não em todos os casos) publicar uma versão mais polida em uma revista. Caso você se interesse em um artigo que possui versões tanto em conferência quanto em revista, a versão de revista muito certamente será mais bem escrita. Apesar disso, muitos artigos Finalmente, a sua escolha não está restrita às conferencias e revistas listadas aqui.

Conferências Principais em Teoria do Aprendizado

Estas são as conferências mais conhecidas focadas em teoria do aprendizado, com muita prevalência dos tópicos que discutimos em sala. Essencialmente qualquer escolha vindo dessas conferências deve cabe no escopo dessa atividade.

• COLT (Conference on Learning Theory): A principal conferência de teoria do aprendizado.
• ALT (Algorithmic Learning Theory): Muito similar à COLT, com foco em aspectos algorítmicos e considerada de prestígio ligeiramente menor se comparada a COLT.

Conferências de Computação Teórica

Essas são as grandes conferências de teoria da computação. Apesar do foco não ser teoria do aprendizado, frequentemente importantes artigos em teoria do aprendizado são publicados nessas conferências.

• STOC (Symposium on Theory of Computing)
• FOCS (Foundations of Computer Science)
• SODA (Symposium on Discrete Algorithms)

Grandes Conferências de Machine Learning

São as conferências “gigantes” da área, para o bem e para o mal. Elas publicam desde aplicações práticas até teoria pura. Você encontrará muita coisa interessante, mas precisará filtrar os artigos mais teóricos, e a qualidade (principalmente nos últimos anos) tem uma variância grande:

• NeurIPS (Neural Information Processing Systems)
• ICML (International Conference on Machine Learning)
• ICLR (International Conference on Learning Representations)
• AAAI (Association for the Advancement of Artificial Intelligence)

Revistas (Journals)

Algumas revistas tradicionais em aprendizado de máquina:

• JMLR (Journal of Machine Learning Research): A revista de acesso aberto mais prestigiada da área.
• Machine Learning (Springer): Uma das revistas mais tradicionais.

Livros

Muitos dos tópicos que discutimos podem ser explorados com mais calma nos capítulos avançados dos livros que usamos como referência no Janus. Alguns exemplos:

• Shalev-Shwartz & Ben-David: Understanding Machine Learning: From Theory to Algorithms.
• Cesa-Bianchi & Lugosi: Prediction, Learning, and Games. (Excelente para Online Learning).
• Mohri, Rostamizadeh & Talwalkar: Foundations of Machine Learning.

Footnotes

1. Alguns tópicos são: PAC aprendizado, dimensão VC, online learning, classificação online, dimensão de Littlestone, predição com aconselhamento de experts, online learning em jogos, boosting, multi-armed bandits.

2. Não vou ser muito rígido com isso, então sua escolha muito provavelmente se encaixa nesta atividade.