SSHのアプリはiアプリでもありましたが、Androidにも存在します。
ぐぐったら「ConnectBot」ってのがよさげだったので入れてみた。
普通に、User@Serverで繋げば良いのですが
お外から繋ぐのでも少し安全を確保。(公開鍵暗号を使用)
Puttyで鍵作るとか方法はいくつかありますので一例と言うことで。

■SSHの設定変更
# vi /etc/ssh/sshd_config
PasswordAuthentication　no　←パスワードではなくカギでログイン
PermitRootLogin no　←rootでのログインを禁止
PermitEmptyPassword no　←パスワードなしのログインは許可しない
#AuthorizedKeysFile      %h/.ssh/authorized_keys
　↓
AuthorizedKeysFile      %h/.ssh/authorized_keys

終われば、sshdの再起動を忘れずに。

■鍵作るよ
接続するユーザでログインして、鍵を作成
$ ssh-keygen -t rsa
Enter file in which to save the key (/home/ユーザ名/.ssh/id_rsa): ← そのままEnter
Enter passphrase (empty for no passphrase):← パスフレーズ
Enter same passphrase again:← もう一回パスフレーズ
これで、公開と秘密の鍵が完成。
id_rsa ： 秘密鍵
id_rsa.pub ： 公開鍵

$ cd /home/ユーザ名/.ssh/
$ mv id_rsa.pub authorized_keys ← 公開鍵をリネーム

■秘密鍵を携帯にコピー
id_rsaをAndroidのSDにコピーする。
FTP・フロッピー・USB等々PCにコピーして、PCからAndroidへ。
Androidにおく場合は、直下じゃないとダメなので注意。
後、鍵登録時にそのままの名前だとid_rsaになってしまうので
分かり易いように名前を変えておいた方がいいかと。
(接続サーバ名_rsaとか)

■ConnectBotに秘密鍵をインポート
写真が無いと分かりにくいけど
1、ConnectBotを起動
2、[メニューキー]-[公開鍵管理]
3、[メニューキー]-[インポート]
4、コピーしたファイル名が出てきてるのでそいつを選択でOK

■キーをホストに設定
ConnectBotを起動した最初の画面で
接続出来なくてもいいから、一度接続繋げてみる。
一度接続した所はホスト登録されているので、そのホストを長押し。
[接続ホストの編集]-[公開鍵認証を使用]-[上で登録したKeyを選択]でOK。

■接続
ホストをタップすると、パスワードが聞かれるので設定したパスフレーズを入れて接続。

■感想
文字コード変更したら出来るのかも知れないが｜(パイプ)が使えない・・・
困らないっちゃ困らないけど(´・ω・｀)
後、３Gからだとやっぱちょっともっさり感があるね。
ゴリゴリ使うのは難しいかな？
再起動や、log確認等々ちょっとした事位なら余裕で出来るので結構便利かもｗ