Unityアセット「MIDI Plugin for Mobile devices」をリリースしました

Unity向けプラグインをアセットストアにてリリースしました。 

MIDI Plugin for Mobile devices

この記事ではプラグインの機能について紹介します。

機能

このプラグインはMIDIイベントの送受信機能をUnityのモバイル(iOS/Android)プロジェクトに追加します。

• MIDIイベントの受信と送信
• MIDI 1.0に定義されている、全ての種類のMIDIメッセージを扱うことができます。
• USB MIDI
• Android のみ
• Bluetooth MIDI (BLE MIDI)
• iOS と Android
• Apple Network MIDI (RTP-MIDI)
• iOS のみ

Android ベースの VRデバイスにも対応

プラグインはOculus Quest 2のような、AndroidベースのVRデバイスでも動作します。実世界のMIDI機器と呼応するVRオブジェクトを簡単に作成できます。VR世界のキューブを指したときにMIDIモジュールから音を出したり、その逆に実世界のMIDIキーボードを演奏したときにVR上のオブジェクトに反応させることができます。

サンプルシーンを試す

プラグインのインストール

• Unity Asset Storeからプラグインをインストールします。
• iOS または Androidのプラットフォームを選択し、サンプルシーンを含めてビルドします。
• サンプルシーン 「MidiSampleScene.unity」は Assets/MIDI/Samples/Scenes ディレクトリにあります。
• プラグインはUnity Editorでは動かないので、アプリバイナリをビルドして、実際のデバイスにインストールする必要があります。

MidiSampleScene

アプリでサンプルシーンを開くと、いくつかのGUIが現われます。

左のウィンドウではMIDIデバイスを選択し、いくつかのMIDIメッセージを送信できます。

右のウィンドウでは受信したMIDIメッセージが確認できます。

MIDIデバイスとの接続

• Android
• USB / Bluetooth MIDIデバイスは自動的に発見、接続されてGUIの「Device」のリストに表示されます。
• iOS
• Apple Network MIDIデバイスは自動的に接続され、GUIの「Device」のリストに表示されます。
• アプリが起動したときにBluetooth MIDIデバイスを選択します。

これらの初期化処理は MidiManager クラスの InitializeMidi メソッドに実装されています。

新しい機器の接続 / 切断 のイベントは IMidiDeviceEventHandler インタフェースを実装することで受信できます。

デバイス名はMidiManager クラスの GetDeviceName メソッドで取得できます。デバイス名をまだ受信できていない場合、空(null)になっている場合があります。

MIDI イベントの送信

MIDIイベントの送信処理のコードはこのように記述します。 

MIDI イベントの受信

MIDIイベントの受信処理のコードはこのように記述します。

オープンソース

パッケージ内のいくつかの部分はオープンソースプロジェクトです。以下のリストはパッケ0ージの依存ライブラリです。

全てのリポジトリは自作のものです。機能のリクエストや不具合報告など、githubにてお気軽にご連絡ください。

• Android Bluetooth MIDI ライブラリ: https://github.com/kshoji/BLE-MIDI-for-Android
• Android USB MIDI ライブラリ: https://github.com/kshoji/USB-MIDI-Driver
• iOS 向け Unity MIDI プラグイン: https://github.com/kshoji/Unity-MIDI-Plugin-iOS

Published Unity asset: MIDI Plugin for Mobile devices

I published a new plugin asset for Unity at the Store. 

MIDI Plugin for Mobile devices

This article explains about this plugin's features.

Features

This plugin enables MIDI event transceive functions to mobile Unity project(iOS/Android)

• MIDI Event Receiving and Sending
• The plugin can treat the all kind of MIDI events defined in MIDI 1.0.
• USB MIDI
• Android only
• Bluetooth MIDI (BLE MIDI)
• both of iOS and Android
• Apple Network MIDI (RTP-MIDI)
• iOS only

Works with Android-based VR devices

This plugin also work with Android-based VR devices, such as Oculus Quest 2. It can easily create app that VR objects interact with real MIDI instruments. When I pointed an cube in the VR world, the real-world MIDI module plays a sound. And vice versa, When I play real-world keyboard, the VR objects will be interacted with playing MIDI note.

How to try with a sample scene

Install the plugin

• Install the plugin from Unity Asset Store.
• Select the app's platform; iOS or Android, and build the app with sample scene.
• The sample scene 'MidiSampleScene.unity' is found at Assets/MIDI/Samples/Scenes directory.
• The plugin doesn't work with Unity Editor, so you should build the app binary and install it into the real devices.

MidiSampleScene

Start app with Sample scene, some GUI will be appeared.

The left window is for selecting MIDI device, and sending some MIDI messages.

The right window is for viewing received MIDI messages.

Connect with MIDI devices

• Android
• USB / Bluetooth MIDI devices will be automatically detected, connected, and displayed on GUI 'Device' list.
• iOS
• Apple Network MIDI devices are automatically connected and displayed on GUI 'Device' list.
• Select Bluetooth MIDI devices at the first time the app launched.

These initializations are implemented at InitializeMidi method in MidiManager class.

New connection / disconnection events can be received by implementing IMidiDeviceEventHandler interface.

The device's name can be got from GetDeviceName method in MidiManager class. The device's name may sometimes empty(null) if the name has not noticed yet.

Sending MIDI events

The implementation for sending MIDI events will be like this. 

Receiving MIDI events

The implementation for receiving MIDI events will be like this.

Open Source

Some parts of this package are Open Source project. The below list are dependency libraries in the package.

All repositories below are owned by me, feel free to feature request or issue reporting.

• Android Bluetooth MIDI library: https://github.com/kshoji/BLE-MIDI-for-Android
• Android USB MIDI library: https://github.com/kshoji/USB-MIDI-Driver
• Unity MIDI Plugin for iOS: https://github.com/kshoji/Unity-MIDI-Plugin-iOS

MIDI over Bluetooth LE library for Android

I've been developing the library to enable BLE MIDI feature on the Android devices from last year. The Apple Bluetooth Low Energy MIDI Specification(PDF) had revealed at December 2014. And finally, I implemented all of features on the specification.

Using this library, the app can connect with BLE MIDI devices, and BLE MIDI compatible iOS/Android/OS X apps. On the Android Lollipop, the app can act as BLE MIDI device.

Note:

This Apple's specification has not been approved by MIDI Manufacturers Association(MMA). I've asked about the specification to MMA at the past, but it was under discussion with MMA members.

The MMA's official release version's specification might be different from Apple's one.

The library's features

With this library, the Android can provide BLE MIDI Central / Peripheral features.

BLE MIDI Central feature

The Android app can host BLE MIDI devices. The app can receive MIDI messages from BLE MIDI devices, and send MIDI messages to them.
This feature requires Android KitKat(4.4 / API Level 19) or later.

BLE MIDI Peripheral feature

The Android app can pretend as BLE MIDI device. The application on the another machine(Android / iOS / OS X) can connect with the Android app.

BLE MIDIのAndroid向けライブラリを作っています

iOS 8での新機能、MIDI over Bluetooth LEの最初のデバイス「mi.1」がindiegogoにて発表されていたので、早速投資して3つポチりました。

その後、ブツが届いたのはいいのですがファームウェアが導入されておらず、実際に使えるようになるまでにしばらく掛かりました。
製品版ではファームウェア書き込み済の状態で出荷しないとユーザが混乱しそうです。

まだmi.1が届いていないうちから、Android 4.3にて追加されたBluetooth LEのAPIを使ってMIDIっぽい通信をするライブラリを書いていました。
Appleが仕様を作るとして、極力既存のMIDIと互換を持たせたシンプルな形に実装するだろう、おそらくBluetooth LEにレガシMIDIのデータをそのまま垂れ流す程度のものだろう、などと想像しつつ先行して実装していました。
mi.1のファームウェアを更新した後、受信したデータをログに出したりしつつプロトコルを調整して、受信までは動作確認できました。

というわけで、まだ道半ばですが現状報告な感じで。

仮想化環境で動くAndroid「AndroVM」を使ってみた

過去記事「仮想マシン上のAndroidでUSBホストを使う」で載せてたAndroid-x86なVMイメージが「AndroVM」として公開されていたので使ってみました。

• 公式ブログ
• ダウンロード
• github

仮想ディスクイメージのダウンロード

上記の「ダウンロード」のページから「vbox86tp version with gapps & houdini & flash」などといったファイルをダウンロードします。

「vbox86tp」「vbox86t」「vbox86p」の三種類がありますが、「t」がTablet、「p」がPhoneを指すようです。Google Playからアプリをダウンロードしたい場合は「with gapps & 〜〜」のバージョンをダウンロードします。

VirtualBoxにインポートして、設定を変更

VirtualBoxを開き「ファイル→仮想アプライアンスのインポート」から、ダウンロードした「ova」形式のファイルを指定してインポートします。

VirtualBox Managerから、仮想マシン「androVM……」の設定を開き、下記のように設定を変更します。

• ディスプレイ→ビデオメモリ を 適量 (64MBに変更しました)
• ディスプレイ→3Dアクセラレーションを有効化 をオン (効くかどうかはわかりませんが…)
• ネットワーク→アダプター1にホストオンリーアダプターを指定。無い場合はVirtualBoxの設定から作成できます。アダプター2はそのままにします(Wi-Fi用として認識されるようです)

あとは普通にVMを実行すれば起動します。

IPアドレスは「androVM Configuration」というアプリで確認できます。

上記画像の場合、コマンドラインから adb connect 192.168.56.101 とやると、デバッグ接続ができます。(もちろん、デバッグ機能を有効にする必要があります)。

ざっくり使ってみた感想

• OSのバージョンは4.1.1
• 起動まで10秒くらい。速い。
• 動作も普通にサクサクしてる。
• メモリは1GBとけっこう消費します。
• rootが使えたり、busyboxがインストールされていたり。アレなファイルを探したりするのが楽です。
• USBデバイスもつながります。
• センサーとかNFCとかのデバイス系が絡まないアプリであれば、けっこう快適に開発できる環境だと思います。

[Android Advent Calendar] 自作のUSBデバイスを、Androidで動かす

Android Advent Calendar 2012/12/26(表) 向けの記事です。裏は@l_b__さんです。

今年の後半にかけてAndroidのUSBホスト周りに少し詳しくなってきた、@kshojiです。Android USB MIDI Driverなどというものを作って公開しております。

USBデバイスを自分で作って、Android側でドライバを書いたら、好きなデバイスを作ってAndroidで自由に動かせて、楽しいんじゃないかなー。ということで、今回この記事を書いてみます。
TwitterのTLで尋ねてみると、USB HIDなデバイスが今時の流行っぽいので、それに乗ってみることにします。USBデバイスの自作と、そのデバイスに対応するアプリ作成の参考になれば嬉しいです。

AndroidがUSBホストに対応

Android OS 3.1からUSBホスト機能に対応して、アプリで、JavaのAPIを使ってUSBデバイスのドライバが書けるようになりました。LinuxのデバイスドライバといえばC(libusb)で書く、もしくはカーネル側をいじるという印象があるので、これはすごく画期的なことだと思います。なんといっても、Javaはとっつきやすいですから。

Android SDKにもUSBミサイルランチャを操作するサンプルが付いています。USBミサイルランチャは色々な環境でサンプルとして使われているようです。

注：必ずしもUSBデバイスであればなんでも認識する、というわけではないようです。HTC J ButterflyではUSB HIDなデバイスは認識しましたが、USB MIDIなデバイスは認識しませんでした。

AndroidでのUSBホストの使いかた

Android の USBホストの公式ドキュメントはこちらからどうぞ。

githubのリポジトリにこの記事用のコード一式を置いてみました。
いちおう、見通しがよくなるようにしているつもりです。
…と言っても、AbstractDeviceActivityクラスあたりから見ていくと、なんとなくわかるかな、程度ですが。WTFPLにしてあるので、煮るなり焼くなりお好きにどうぞ。

In-App Billing version 3を使ってみた

先日、既存の有料アプリを無料化→アプリ内課金を追加しよう、という流れで実装をしてみました。
たまたま新しいバージョンのライブラリが出たタイミングだったようで、折角だからこのライブラリを使って実装してみたときのメモです。

In-App Billing version3との遭遇

いつも通りに、「In-App Billingのサンプルが載っているブログ・サイトを探して、それを参考にしながら実装を進めていこう!」 と思っていたところ、IInAppBillingService.aidlを使ったサンプルがさっぱり見つからず、見つかるのはIMarketBillingService.aidlを使うものばかり…。
記事がないとか、そんなバカな…とか思っていたら、Android Developer Blogの記事を見つけました。つい最近バージョンアップしてたんですね。

先の記事によると、向上した点はこんな感じのようです。

• 設計を改善して、アプリが完結に書けてデバッグ・メンテナンスしやすくなった。以前だと数100行書かないといけなかったコードが、50行くらいでできるように。
• 堅牢なアーキテクチャにより、決済のロストが少なくなった。
• ローカルへのキャッシュによって、API 呼び出しが高速になった。
• 待望されていた、「一度だけ購入できるアイテム」の購入や、アイテム情報の問合せができるようになった。

SDKのサンプルを試そう

というわけで、SDKのサンプルを見ていくことにしました。まずは、SDK Managerから「Google Play Billing Library」をインストールします。

サンプルプロジェクトはSDKをインストールしたディレクトリ内の「extras/google/play_billing/in-app-billing-v03」にあります。Eclipseに取り込んでビルドします。

Android USB MIDI Driverのご紹介

Android USB MIDI Driverって?

「Android 3.1 (API Level 12)以降向けの、USB MIDIを使うためのライブラリ」です。
Android 3系のタブレットや、Android4系のスマートフォンを使って、特に改造やroot化することなしに、USB MIDI対応の楽器や機器を繋げることができるようになります。

注意：端末がUSB Host機能に対応している必要があります。USB Host対応端末であっても、USB MIDI機器が認識しない場合があります。

USB MIDI対応デバイスの例：キーボード、電子ピアノ、シンセサイザー、音源モジュールなどの楽器・コントローラ、変換ケーブルなどのPC用MIDIインタフェースなど。

ライブラリのソースコードは、こちらのgithubリポジトリからダウンロードできます。Apache ライセンス バージョン 2.0です。
https://github.com/kshoji/USB-MIDI-Driver

応用アプリの例

• (楽器のほうの)キーボードを使ってプレゼンを操作
• 演奏をディスプレイ上にリアルタイムで可視化
• TENORI-ON/monomeのようなインタラクティブなシーケンサー
• 加速度やジャイロなどのセンサーを使用したコントローラ

などなど…

仮想マシン上のAndroidでUSBホストを使う

Android SDKに含まれるエミュレータはUSBデバイスの接続に対応していません。
「android-x86」のLiveCDイメージを使うことで、USBホストのテストがPC上で可能になります。
今回はVMWare FusionとVirtualBoxで動かしてみました。

• ISOイメージをこちらからダウンロードします。「new version here」というリンクのもの(android-x86-vm-20120130.iso.gz)を使用しました。→ http://www.buildroid.org/blog/?p=86 

• 新しい仮想マシンをセットアップし、CDドライブにLiveCDを指定してVMを開始します。
• 「Live CD - Run Android-x86 without installation」を選択して、Androidを起動します。
• VirtualBoxの場合、「Machine」メニューから「Disable Mouse Integration」をチェックします。
• VMware/VirtualBoxの「ネットワークアダプタ」のモードを「ブリッジ(自動設定)」「Bridged Adapter」に変更します。
• Android側の「Terminal Emulator」アプリを開き、以下のコマンドを実行します。固定IPを設定するので、LAN内で空いているIPアドレスを確認しておいてください。(今回は192.168.1.111とします)。

$ su
# ifconfig eth0 192.168.1.111 up

• ホストOS上から、下記のコマンドを実行します。

$ adb connect 192.168.1.111

これで、仮想マシンのAndroidとadbが接続され、Eclipseなどからアプリが流しこめます。
仮想マシン側にUSBデバイスを接続することで、そのデバイスをAndroidで使用することができます。