Larry Ellison ร่วมก่อตั้งบริษัทซอฟต์แวร์ Oracle ขึ้นกับเพื่อนอีกสองคนในปี 1977 เพื่อสร้างระบบบริหารจัดการข้อมูลลูกค้า โดยตัวเขาดำรงตำแหน่งประธานเจ้าหน้าที่บริหารมาโดยตลอดจนถึงปี 2014 จึงได้ก้าวลงจากตำแหน่ง เปลี่ยนมาเป็นประธานเจ้าหน้าที่ฝ่ายเทคโนโลยีมาจนทุกวันนี้ และถือหุ้นราว 40% ของบริษัท
Larry Ellison ยังเคยเข้าร่วมบอร์ดบริหารของบริษัทผู้ผลิตรถยนต์ไฟฟ้าชั้นนำอย่าง Tesla ระหว่างปี 2018 ถึงปี 2022 โดยเขายังคงถือหุ้น Tesla ราว 15 ล้านหุ้นในปัจจุบัน