本题考核税务行政处罚的相关规定。国家税务总局可以通过规章的形式设定警告和罚款，因此A不正确；省以下国家税务局的稽查局具有税务行政处罚主体资格，因此C不正确；税务所可以在特别授权的情况下实施罚款2000元以下的税务机关处罚；因此，只有B选项是最佳选项。