kafka

Schema Registryについて

昨日の続き。bufferings.hatenablog.comAvroを使ってメッセージをシリアライズ・デシリアライズするのに、スキーマを保存しておいてくれる場所があると便利だよなーってことで、Schema Registryが(僕の中に)登場。 Schema Registry? Schema Registry — Confl…

Avroについて

昨日、関ジャバで喋ったのしかったよー(∩´∀`)∩bufferings.hatenablog.comその発表のために色々と新しいことを学んだので、ちょこちょこ気が向いたときにアウトプットしておこうと思う。数カ月後に全て忘れているであろう自分のために。てことで、今日はAvro…

#KanJavaParty で喋ったよ(ヽ´ω`)

kanjava.connpass.com直前までコード触ってた。ローカルでデモを見てもらうけど、実際のアプリも触ってもらえたらいいなと思ってAzureでも動かした。んで、ほんとにギリギリでAzure上で動き始めて、そしてなぜかローカルが動かなくなった。Azureでも動いてな…

Using multiple Avro schema in one Kafka Topic

I tried Kafka with Avro on Spring Boot in the previous blog post(Japanese).bufferings.hatenablog.comThen this time, I tried to use multiple Avro schema in one topic. The source code https://github.com/bufferings/kafka-streams-demo/tree/v0.…

KafkaとAvroとSchema Registryの自分メモ

これの続き bufferings.hatenablog.com Avro Avroはデータのシリアライズをする何か。去年のSpringOneでちらほら名前を聞いた。Schema Evolution系のセッションだったかな。Welcome to Apache Avro!ということで、前回の記事では文字列だけを渡してたけど、…

Kafka StreamsをSpring Bootで(その2

これの続き。ちょーっとずつ進んでるのかなぁ。bufferings.hatenablog.com こうなった githubにpushしといた https://github.com/bufferings/kafka-streams-demo/tree/v0.1 日本語のsampleストリーム 今度は日本語のsampleストリームを取ってくるようにして…

Kafka StreamsをSpring Bootで試してみた

この辺とか読みながら→ Introduction — Confluent Platform 3.1.0 documentationTwitter4Jで適当に英語のツイートをとってきて、Kafkaに流し込む。(キーとかの設定はtwitter4j.propertiesに入れておいた) @Component public class TwitterToKafka implements…

KafkaのクライアントをJavaで試しに書いてみた。それとspring-kafka。

いつもありがとうございます。の気持ちとともにCLOVERを開いて、今日はKafkaのクライアントをJavaで試しに書いてみた。d.hatena.ne.jp KafkaTest1 かずひらさんと違うのは、localhostで立ち上げてるってところだけ。なのでこんなコードになった。ちょっとく…

Kafka触るのにVagrantとAnsibleで砂場環境を準備

Dockerだと関係ないところでハマりそうな気がしたのでVagrantにしてみた。ファイルはここに置いといた。https://github.com/bufferings/sandbox-kafka Vagrant + Ansible Local Provisioner 以前に触った時は、Ansible2系が出たばかりで、ちょっと手を入れな…

Azure DC/OSでKafkaを動かしてみる

DC/OS Universe から Kafka パッケージをインストール DC/OSにはUniverseって仕組みがあって、パッケージをDC/OS上にインストールできるみたいなの。Kafkaがあったので試しにポチポチ押してインストールしてみた。そしたらKafkaが起動し始めるんだけどリソー…

#jjug_ccc DDDとMicroservicesについて喋ってきましたー(∩´∀`)∩

楽しかった! DDD & Microservices with Spring Cloud 前半がこれまで僕が経験してきたDDD 後半がこれからのために素振りしておきたいこと これまで僕が経験してきたDDD 最近、組織について考えるようになってきたのもあって「境界づけられたコンテキスト」…

KafkaStreamsを触ってみた

こんな感じで書くと gist.github.comstreams-file-inputのデータを読んで、streams-wordcount-outputに結果を書いていくっぽい。こういう処理を触るのは初めてなんだけど、面白いなー。こういうデータを食わせたら all streams lead to kafka hello kafka st…