Обсуждение:Токен
Похоже, что перенапрвление на страницу Лексема [1] с этой страницы ( Токен [2] ) ошибочно. Слова Токен и Лексема связаны контекстом их применения, но не являются синонимами! Никаких дополнительных объяснений пользователь не получает.
Доказательство на странице Token_(parser) [3]:
"A token is a categorized block of text. The block of text corresponding to the token is known as a lexeme."
Другими словами:
Токен это класс блоков текста, а Лексема это конкретный представитель класса в тексте.
Данное решение сайта, то есть "ленивое" перенапрвление с одной страницы на другую, которое не сопровождается никакими комментариями приводит к путаннице и вводит в заблуждение читателя.
Возможно из-за этой ошибки Компания ПРОМТ также допускает ошибку при переводе этих слов в своем продукте Translate.ru [4].
Victorv 15:50, 26 марта 2008 (UTC)
Виктор Г. Васильев