На основе свободно распространяемого редактора
кастомизированную версию, включающую панель с математическими символами.
Пример того, что хотелось бы получить:
При нажатии на кнопку из панели выделенный текст в окне ввода "обрамляется" html стилем или конструкцией, которая соответствует некоторой математической операции. Вёрстку предоставлю.
Для реализации редактора потребуется глубокое знание js.
В ответ напишите сколько времени работаете с JavaScript (jQuery), какие проекты делали на js из последнего.