Pour cela il vous faut le module apache : mod_rewrite soit activé. Et configurer les règles de renommage de vos URL par des expression régulières.

Puis pour réécrire vos URL d'une manière plus jolies :

http://votresite.com/frames.php?page=index&view=source deviendra : http://votresite.com/index.source.html

http://votresite.com/photo.php?album=12&id=1 deviendra : http://votresite.com/photo/12/1

La première URL :

RewriteEngine on
RewriteRule ([a-z]+)\.([a-z]+)\.html$ /frames.php?page=$1&view=$2

La deuxième URL :

RewriteEngine on
RewriteRule ([0-9]+)/([0-9]+)$ /photo.php?album=$1&id=$2

L'article URL Rewriting est parfaitement expliqué sur son site d'origine.

A propos du séparateur choisi, je vous conseille de lire l'historique des moteurs de recherche à propos du tiret, underscore et virgule.