基本的には「[CakePHP3] composer経由で外部ライブラリをインストール&読み込み | ガジェットとネイルが好き。」を参考にさせてもらったのだけれど、パスを通してない場合、cakephpのディレクトリで相対パスでcomposerを呼び出す。
php ../composer.phar require ~
つまりこう。
これでcakephp3のvenderにライブラリが登録される。
あとは利用したいcontollerなどの冒頭で
use ライブラリ名;
とすれば、ライブラリを利用できる。