Не во всех языках есть сильное различие.
В императивных (таких, как С++, Паскаль, Java) константа отличается тем, что ее значение изменить нельзя, в отличии от переменной (у которой значение можно менять сколько душе угодно).
Пример:
Константами часто являются аргументы функций, чтобы программист не смог случайно в функции изменить значение. Например (псевдокод, очень грубо, не совсем верно, но суть отражает):
Ошибка может быть более завуалированной. Например вместо явного присваивания, можно было бы вызвать foo(str), где foo - некоторая функция, которая изменила бы строку. Такие ошибки могут возникать и их трудно найти.
Поэтому используются константы:
Но это все об императивных языках, но вопрос о программировании вообще, а языки бывают и другие. В функциональных языках (таких как Lisp, Haskell, Erlang, Closure, и еще мильон, например, сейчас я пишу на языке nip2 {похожем на лисп}) и логических (SWI Prolog, Visual Prolog, Arity Prolog, и еще мильон прологов) переменной значение можно присвоить лишь одни раз. После присвоения она становится константой. А если значение переменной уже присвоено - то его нельзя изменить. Функциональные языки при повторном присваивании выбрасывают ошибки, а логические могут как выбрасывать ошибку, так и выполнять сравнение старого значения с новым (зависит от языка).
Литература:
про Closure:
http://www.rsdn.ru/forum/info/FAQ.fp.terminology
Про Erlang:
http://habrahabr.ru/hub/erlang/
http://pro-prof.com/archives/category/erlang
http://erlanger.ru/ (дружелюбное комьюнити)
про nip2 (мне очень понравился, удобный язык для обработки изображений)
http://www.vips.ecs.soton.ac.uk/supported/current/doc/html/nipguide/nipguidese3<wbr />.html
Сообщество пролог-программистов тут: http://www.hardforum.ru/f141/ (тут есть авторы книг и люди, приближенные к разработки конкретных диалектов пролога) - это бывший форум progz.org (он переехал на хардфорум)
Тут тоже есть материалы по прологу: http://pro-prof.com/archives/category/prolog_
Еще забавный ресурс по логическому программированию вот: http://haskell98.blogspot.ru/2014/02/blog-post_10.html (ссылка на конкурс, который будет проходить в ближайшее время, можно поучаствовать и получить книжку по ФПЛ :) ).