В «Русском орфографическом словаре» (4-е изд., М., 2012) уже зафиксированы слова с первой частью хеш... (передающей англ. hash): хеш, хеширование, хеш-код. Кроме того, пишется кеш (не кэш), флеш (не флэш). По аналогии: хештег.
Корректно написание: хештег.
Кавычки ставить необязательно, поскольку знак хештега сам по себе выполняет выделительную функцию.