Mostrando postagens com marcador Open Source. Mostrar todas as postagens
Mostrando postagens com marcador Open Source. Mostrar todas as postagens

quinta-feira, abril 02, 2009

MapReduce nas nuvens

A cada dia que passa eu fico mais surpreso com as possibilidades criadas pela inovação tecnológica. A Amazon acaba de incrementar o seu portfólio se serviços de computação nas nuvens, com lançamento do serviço Amazon Elastic MapReduce.

O MapReduce, criado pelo Google, é um modelo de programação já implementado em linguagens como Java, C++ e outras. Ele é baseado em recursos disponíveis em linguagens funcionais como o LISP. O MapReduce possibilita o processamento e a geração de massas de dados gigantescas. Esse processamento é feito, de forma transparente, em clusters de computadores comuns. O MapReduce simplificou a computação em larga-escala realizada Google. Detalhes como tolerância a falhas, balanceamento de carga são abstraídos, o que torna a programação menos maçante e sujeito a falhas.

Antes, esse tipo processamento não era acessível fora de grandes centros de pesquisa ou empresas como o Google. Porem, baseando-se nos papers liberados pelo Google, Doug Cutting criou uma implementação open-source em Java do MapReduce. O projeto chamado de Hadoop foi disponibilizado pela Apache.

A adoção do Hadoop foi muito rápida, hoje ele é utilizado por empresas como Yahoo, Facebook, Microsoft, Autodesk, IBM e etc. O Facebook utiliza o Hadoop para mapear os relacionamentos na sua rede social. O Yahoo personaliza o conteúdo exibido para 300 milhões de pessoas, baseado na análise das suas preferências. O Hadoop tem substituído soluções caseiras no o atendimento de necessidades do core business destas empresas.

Agora começam a aparecer ofertas da plataforma Hadoop para cloud computing. A pioneira foi a empresa Cloudera, formada por ex-engenheiros do Google, Yahoo, Oracle e outras. A Amazon, maior referência em cloud computing, passou a oferecer o mesmo serviço. No caso da Amazon, o serviço já nasce integrado com todo o ecossistema de serviços já disponíveis como o S3 e o EC2. Todo esse poder computacional esta disponível para empresas de todos os portes e para simples mortais como você e eu.

sexta-feira, novembro 21, 2008

Google Open Source Jam Brazil - "free as in free beer"

Ontem participei do Google Open Source Jam Brazil, aqui em BH. Foi um encontro muito bacana
onde os participantes puderam apresentar seus projetos de código aberto num clima bem
descontraído. Alguns dos projetos apresentados foram o HAIKU OS, CurlFtpFS, HWF (framework web em C, hilário), e muitos outros. Pudemos aproveitar a estrutura do Google, rede sem fio, comida e bebida à vontade. Conheci outro Leonardo Luiz daqui de BH mesmo, sua apresentação foi sobre EJBCA, muito boa.

Enfim, espero que este evento incite outros da mesma natureza. Parabéns ao Google pela iniciativa!

Algumas fotos publicadas pelos participantes: