Ну смотря что предпологается под недорогими. Если совсем недорого - Capitol Guest House, один из старейших в городе и очень известный. Очень скромно. От 4 долларов. Интернет напротив через дорогу в кафе.
интернет особо искать не нужно, в Пномпене и Сием-Рипе неплохое покурытие вай-фаевское, точка сразу находится, кто предоставляет не помню, там тестовая страница есть, карты оплаты купить можно там же, где и мобилы-симки продают