まずはbrewのアップデート、
$ brew update
$ brew upgrade
そしてRmagickはimageMagickが必要なのでこれをインストールします。
$ brew install imagemagic
Rmagickをインストール
$ gem install rmagick
sumple.rb
require "rmagick"
image = Magick::ImageList.new('sumple.jpg')
image.write('sumple.png')
これでjpgからpngに変換できます。