pcie-designware.h 11 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296297298299300301302303304305306307308309310311312313314315316317318319320321322323324325326327328329330331332333334335336337338339340341342343344345346347348349350351352353354355356357358359360361362363364365366367368369370371372373374375376377378379380381382383384385386387388389390391392
  1. /* SPDX-License-Identifier: GPL-2.0 */
  2. /*
  3. * Synopsys DesignWare PCIe host controller driver
  4. *
  5. * Copyright (C) 2013 Samsung Electronics Co., Ltd.
  6. * http://www.samsung.com
  7. *
  8. * Author: Jingoo Han <jg1.han@samsung.com>
  9. */
  10. #ifndef _PCIE_DESIGNWARE_H
  11. #define _PCIE_DESIGNWARE_H
  12. #include <linux/dma-mapping.h>
  13. #include <linux/irq.h>
  14. #include <linux/msi.h>
  15. #include <linux/pci.h>
  16. #include <linux/pci-epc.h>
  17. #include <linux/pci-epf.h>
  18. /* Parameters for the waiting for link up routine */
  19. #define LINK_WAIT_MAX_RETRIES 10
  20. #define LINK_WAIT_USLEEP_MIN 90000
  21. #define LINK_WAIT_USLEEP_MAX 100000
  22. /* Parameters for the waiting for iATU enabled routine */
  23. #define LINK_WAIT_MAX_IATU_RETRIES 5
  24. #define LINK_WAIT_IATU 9
  25. /* Synopsys-specific PCIe configuration registers */
  26. #define PCIE_PORT_LINK_CONTROL 0x710
  27. #define PORT_LINK_MODE_MASK (0x3f << 16)
  28. #define PORT_LINK_MODE_1_LANES (0x1 << 16)
  29. #define PORT_LINK_MODE_2_LANES (0x3 << 16)
  30. #define PORT_LINK_MODE_4_LANES (0x7 << 16)
  31. #define PORT_LINK_MODE_8_LANES (0xf << 16)
  32. #define PCIE_LINK_WIDTH_SPEED_CONTROL 0x80C
  33. #define PORT_LOGIC_SPEED_CHANGE (0x1 << 17)
  34. #define PORT_LOGIC_LINK_WIDTH_MASK (0x1f << 8)
  35. #define PORT_LOGIC_LINK_WIDTH_1_LANES (0x1 << 8)
  36. #define PORT_LOGIC_LINK_WIDTH_2_LANES (0x2 << 8)
  37. #define PORT_LOGIC_LINK_WIDTH_4_LANES (0x4 << 8)
  38. #define PORT_LOGIC_LINK_WIDTH_8_LANES (0x8 << 8)
  39. #define PCIE_MSI_ADDR_LO 0x820
  40. #define PCIE_MSI_ADDR_HI 0x824
  41. #define PCIE_MSI_INTR0_ENABLE 0x828
  42. #define PCIE_MSI_INTR0_MASK 0x82C
  43. #define PCIE_MSI_INTR0_STATUS 0x830
  44. #define PCIE_ATU_VIEWPORT 0x900
  45. #define PCIE_ATU_REGION_INBOUND (0x1 << 31)
  46. #define PCIE_ATU_REGION_OUTBOUND (0x0 << 31)
  47. #define PCIE_ATU_REGION_INDEX2 (0x2 << 0)
  48. #define PCIE_ATU_REGION_INDEX1 (0x1 << 0)
  49. #define PCIE_ATU_REGION_INDEX0 (0x0 << 0)
  50. #define PCIE_ATU_CR1 0x904
  51. #define PCIE_ATU_TYPE_MEM (0x0 << 0)
  52. #define PCIE_ATU_TYPE_IO (0x2 << 0)
  53. #define PCIE_ATU_TYPE_CFG0 (0x4 << 0)
  54. #define PCIE_ATU_TYPE_CFG1 (0x5 << 0)
  55. #define PCIE_ATU_CR2 0x908
  56. #define PCIE_ATU_ENABLE (0x1 << 31)
  57. #define PCIE_ATU_BAR_MODE_ENABLE (0x1 << 30)
  58. #define PCIE_ATU_LOWER_BASE 0x90C
  59. #define PCIE_ATU_UPPER_BASE 0x910
  60. #define PCIE_ATU_LIMIT 0x914
  61. #define PCIE_ATU_LOWER_TARGET 0x918
  62. #define PCIE_ATU_BUS(x) (((x) & 0xff) << 24)
  63. #define PCIE_ATU_DEV(x) (((x) & 0x1f) << 19)
  64. #define PCIE_ATU_FUNC(x) (((x) & 0x7) << 16)
  65. #define PCIE_ATU_UPPER_TARGET 0x91C
  66. #define PCIE_MISC_CONTROL_1_OFF 0x8BC
  67. #define PCIE_DBI_RO_WR_EN (0x1 << 0)
  68. /*
  69. * iATU Unroll-specific register definitions
  70. * From 4.80 core version the address translation will be made by unroll
  71. */
  72. #define PCIE_ATU_UNR_REGION_CTRL1 0x00
  73. #define PCIE_ATU_UNR_REGION_CTRL2 0x04
  74. #define PCIE_ATU_UNR_LOWER_BASE 0x08
  75. #define PCIE_ATU_UNR_UPPER_BASE 0x0C
  76. #define PCIE_ATU_UNR_LIMIT 0x10
  77. #define PCIE_ATU_UNR_LOWER_TARGET 0x14
  78. #define PCIE_ATU_UNR_UPPER_TARGET 0x18
  79. /* Register address builder */
  80. #define PCIE_GET_ATU_OUTB_UNR_REG_OFFSET(region) \
  81. ((0x3 << 20) | ((region) << 9))
  82. #define PCIE_GET_ATU_INB_UNR_REG_OFFSET(region) \
  83. ((0x3 << 20) | ((region) << 9) | (0x1 << 8))
  84. #define MAX_MSI_IRQS 256
  85. #define MAX_MSI_IRQS_PER_CTRL 32
  86. #define MAX_MSI_CTRLS (MAX_MSI_IRQS / MAX_MSI_IRQS_PER_CTRL)
  87. #define MSI_REG_CTRL_BLOCK_SIZE 12
  88. #define MSI_DEF_NUM_VECTORS 32
  89. /* Maximum number of inbound/outbound iATUs */
  90. #define MAX_IATU_IN 256
  91. #define MAX_IATU_OUT 256
  92. struct pcie_port;
  93. struct dw_pcie;
  94. struct dw_pcie_ep;
  95. enum dw_pcie_region_type {
  96. DW_PCIE_REGION_UNKNOWN,
  97. DW_PCIE_REGION_INBOUND,
  98. DW_PCIE_REGION_OUTBOUND,
  99. };
  100. enum dw_pcie_device_mode {
  101. DW_PCIE_UNKNOWN_TYPE,
  102. DW_PCIE_EP_TYPE,
  103. DW_PCIE_LEG_EP_TYPE,
  104. DW_PCIE_RC_TYPE,
  105. };
  106. struct dw_pcie_host_ops {
  107. int (*rd_own_conf)(struct pcie_port *pp, int where, int size, u32 *val);
  108. int (*wr_own_conf)(struct pcie_port *pp, int where, int size, u32 val);
  109. int (*rd_other_conf)(struct pcie_port *pp, struct pci_bus *bus,
  110. unsigned int devfn, int where, int size, u32 *val);
  111. int (*wr_other_conf)(struct pcie_port *pp, struct pci_bus *bus,
  112. unsigned int devfn, int where, int size, u32 val);
  113. int (*host_init)(struct pcie_port *pp);
  114. void (*msi_set_irq)(struct pcie_port *pp, int irq);
  115. void (*msi_clear_irq)(struct pcie_port *pp, int irq);
  116. phys_addr_t (*get_msi_addr)(struct pcie_port *pp);
  117. u32 (*get_msi_data)(struct pcie_port *pp, int pos);
  118. void (*scan_bus)(struct pcie_port *pp);
  119. void (*set_num_vectors)(struct pcie_port *pp);
  120. int (*msi_host_init)(struct pcie_port *pp);
  121. void (*msi_irq_ack)(int irq, struct pcie_port *pp);
  122. };
  123. struct pcie_port {
  124. u8 root_bus_nr;
  125. u64 cfg0_base;
  126. void __iomem *va_cfg0_base;
  127. u32 cfg0_size;
  128. u64 cfg1_base;
  129. void __iomem *va_cfg1_base;
  130. u32 cfg1_size;
  131. resource_size_t io_base;
  132. phys_addr_t io_bus_addr;
  133. u32 io_size;
  134. u64 mem_base;
  135. phys_addr_t mem_bus_addr;
  136. u32 mem_size;
  137. struct resource *cfg;
  138. struct resource *io;
  139. struct resource *mem;
  140. struct resource *busn;
  141. int irq;
  142. const struct dw_pcie_host_ops *ops;
  143. int msi_irq;
  144. struct irq_domain *irq_domain;
  145. struct irq_domain *msi_domain;
  146. dma_addr_t msi_data;
  147. struct page *msi_page;
  148. u32 num_vectors;
  149. u32 irq_status[MAX_MSI_CTRLS];
  150. raw_spinlock_t lock;
  151. DECLARE_BITMAP(msi_irq_in_use, MAX_MSI_IRQS);
  152. };
  153. enum dw_pcie_as_type {
  154. DW_PCIE_AS_UNKNOWN,
  155. DW_PCIE_AS_MEM,
  156. DW_PCIE_AS_IO,
  157. };
  158. struct dw_pcie_ep_ops {
  159. void (*ep_init)(struct dw_pcie_ep *ep);
  160. int (*raise_irq)(struct dw_pcie_ep *ep, u8 func_no,
  161. enum pci_epc_irq_type type, u16 interrupt_num);
  162. };
  163. struct dw_pcie_ep {
  164. struct pci_epc *epc;
  165. struct dw_pcie_ep_ops *ops;
  166. phys_addr_t phys_base;
  167. size_t addr_size;
  168. size_t page_size;
  169. u8 bar_to_atu[6];
  170. phys_addr_t *outbound_addr;
  171. unsigned long *ib_window_map;
  172. unsigned long *ob_window_map;
  173. u32 num_ib_windows;
  174. u32 num_ob_windows;
  175. void __iomem *msi_mem;
  176. phys_addr_t msi_mem_phys;
  177. u8 msi_cap; /* MSI capability offset */
  178. u8 msix_cap; /* MSI-X capability offset */
  179. };
  180. struct dw_pcie_ops {
  181. u64 (*cpu_addr_fixup)(struct dw_pcie *pcie, u64 cpu_addr);
  182. u32 (*read_dbi)(struct dw_pcie *pcie, void __iomem *base, u32 reg,
  183. size_t size);
  184. void (*write_dbi)(struct dw_pcie *pcie, void __iomem *base, u32 reg,
  185. size_t size, u32 val);
  186. int (*link_up)(struct dw_pcie *pcie);
  187. int (*start_link)(struct dw_pcie *pcie);
  188. void (*stop_link)(struct dw_pcie *pcie);
  189. };
  190. struct dw_pcie {
  191. struct device *dev;
  192. void __iomem *dbi_base;
  193. void __iomem *dbi_base2;
  194. u32 num_viewport;
  195. u8 iatu_unroll_enabled;
  196. struct pcie_port pp;
  197. struct dw_pcie_ep ep;
  198. const struct dw_pcie_ops *ops;
  199. };
  200. #define to_dw_pcie_from_pp(port) container_of((port), struct dw_pcie, pp)
  201. #define to_dw_pcie_from_ep(endpoint) \
  202. container_of((endpoint), struct dw_pcie, ep)
  203. int dw_pcie_read(void __iomem *addr, int size, u32 *val);
  204. int dw_pcie_write(void __iomem *addr, int size, u32 val);
  205. u32 __dw_pcie_read_dbi(struct dw_pcie *pci, void __iomem *base, u32 reg,
  206. size_t size);
  207. void __dw_pcie_write_dbi(struct dw_pcie *pci, void __iomem *base, u32 reg,
  208. size_t size, u32 val);
  209. int dw_pcie_link_up(struct dw_pcie *pci);
  210. int dw_pcie_wait_for_link(struct dw_pcie *pci);
  211. void dw_pcie_prog_outbound_atu(struct dw_pcie *pci, int index,
  212. int type, u64 cpu_addr, u64 pci_addr,
  213. u32 size);
  214. int dw_pcie_prog_inbound_atu(struct dw_pcie *pci, int index, int bar,
  215. u64 cpu_addr, enum dw_pcie_as_type as_type);
  216. void dw_pcie_disable_atu(struct dw_pcie *pci, int index,
  217. enum dw_pcie_region_type type);
  218. void dw_pcie_setup(struct dw_pcie *pci);
  219. static inline void dw_pcie_writel_dbi(struct dw_pcie *pci, u32 reg, u32 val)
  220. {
  221. __dw_pcie_write_dbi(pci, pci->dbi_base, reg, 0x4, val);
  222. }
  223. static inline u32 dw_pcie_readl_dbi(struct dw_pcie *pci, u32 reg)
  224. {
  225. return __dw_pcie_read_dbi(pci, pci->dbi_base, reg, 0x4);
  226. }
  227. static inline void dw_pcie_writew_dbi(struct dw_pcie *pci, u32 reg, u16 val)
  228. {
  229. __dw_pcie_write_dbi(pci, pci->dbi_base, reg, 0x2, val);
  230. }
  231. static inline u16 dw_pcie_readw_dbi(struct dw_pcie *pci, u32 reg)
  232. {
  233. return __dw_pcie_read_dbi(pci, pci->dbi_base, reg, 0x2);
  234. }
  235. static inline void dw_pcie_writeb_dbi(struct dw_pcie *pci, u32 reg, u8 val)
  236. {
  237. __dw_pcie_write_dbi(pci, pci->dbi_base, reg, 0x1, val);
  238. }
  239. static inline u8 dw_pcie_readb_dbi(struct dw_pcie *pci, u32 reg)
  240. {
  241. return __dw_pcie_read_dbi(pci, pci->dbi_base, reg, 0x1);
  242. }
  243. static inline void dw_pcie_writel_dbi2(struct dw_pcie *pci, u32 reg, u32 val)
  244. {
  245. __dw_pcie_write_dbi(pci, pci->dbi_base2, reg, 0x4, val);
  246. }
  247. static inline u32 dw_pcie_readl_dbi2(struct dw_pcie *pci, u32 reg)
  248. {
  249. return __dw_pcie_read_dbi(pci, pci->dbi_base2, reg, 0x4);
  250. }
  251. static inline void dw_pcie_dbi_ro_wr_en(struct dw_pcie *pci)
  252. {
  253. u32 reg;
  254. u32 val;
  255. reg = PCIE_MISC_CONTROL_1_OFF;
  256. val = dw_pcie_readl_dbi(pci, reg);
  257. val |= PCIE_DBI_RO_WR_EN;
  258. dw_pcie_writel_dbi(pci, reg, val);
  259. }
  260. static inline void dw_pcie_dbi_ro_wr_dis(struct dw_pcie *pci)
  261. {
  262. u32 reg;
  263. u32 val;
  264. reg = PCIE_MISC_CONTROL_1_OFF;
  265. val = dw_pcie_readl_dbi(pci, reg);
  266. val &= ~PCIE_DBI_RO_WR_EN;
  267. dw_pcie_writel_dbi(pci, reg, val);
  268. }
  269. #ifdef CONFIG_PCIE_DW_HOST
  270. irqreturn_t dw_handle_msi_irq(struct pcie_port *pp);
  271. void dw_pcie_msi_init(struct pcie_port *pp);
  272. void dw_pcie_free_msi(struct pcie_port *pp);
  273. void dw_pcie_setup_rc(struct pcie_port *pp);
  274. int dw_pcie_host_init(struct pcie_port *pp);
  275. int dw_pcie_allocate_domains(struct pcie_port *pp);
  276. #else
  277. static inline irqreturn_t dw_handle_msi_irq(struct pcie_port *pp)
  278. {
  279. return IRQ_NONE;
  280. }
  281. static inline void dw_pcie_msi_init(struct pcie_port *pp)
  282. {
  283. }
  284. static inline void dw_pcie_free_msi(struct pcie_port *pp)
  285. {
  286. }
  287. static inline void dw_pcie_setup_rc(struct pcie_port *pp)
  288. {
  289. }
  290. static inline int dw_pcie_host_init(struct pcie_port *pp)
  291. {
  292. return 0;
  293. }
  294. static inline int dw_pcie_allocate_domains(struct pcie_port *pp)
  295. {
  296. return 0;
  297. }
  298. #endif
  299. #ifdef CONFIG_PCIE_DW_EP
  300. void dw_pcie_ep_linkup(struct dw_pcie_ep *ep);
  301. int dw_pcie_ep_init(struct dw_pcie_ep *ep);
  302. void dw_pcie_ep_exit(struct dw_pcie_ep *ep);
  303. int dw_pcie_ep_raise_legacy_irq(struct dw_pcie_ep *ep, u8 func_no);
  304. int dw_pcie_ep_raise_msi_irq(struct dw_pcie_ep *ep, u8 func_no,
  305. u8 interrupt_num);
  306. int dw_pcie_ep_raise_msix_irq(struct dw_pcie_ep *ep, u8 func_no,
  307. u16 interrupt_num);
  308. void dw_pcie_ep_reset_bar(struct dw_pcie *pci, enum pci_barno bar);
  309. #else
  310. static inline void dw_pcie_ep_linkup(struct dw_pcie_ep *ep)
  311. {
  312. }
  313. static inline int dw_pcie_ep_init(struct dw_pcie_ep *ep)
  314. {
  315. return 0;
  316. }
  317. static inline void dw_pcie_ep_exit(struct dw_pcie_ep *ep)
  318. {
  319. }
  320. static inline int dw_pcie_ep_raise_legacy_irq(struct dw_pcie_ep *ep, u8 func_no)
  321. {
  322. return 0;
  323. }
  324. static inline int dw_pcie_ep_raise_msi_irq(struct dw_pcie_ep *ep, u8 func_no,
  325. u8 interrupt_num)
  326. {
  327. return 0;
  328. }
  329. static inline int dw_pcie_ep_raise_msix_irq(struct dw_pcie_ep *ep, u8 func_no,
  330. u16 interrupt_num)
  331. {
  332. return 0;
  333. }
  334. static inline void dw_pcie_ep_reset_bar(struct dw_pcie *pci, enum pci_barno bar)
  335. {
  336. }
  337. #endif
  338. #endif /* _PCIE_DESIGNWARE_H */